Mitchell警告权重通信偏离可解释性

Margaret Mitchell 认为，行业因不对称激励而选择性回避权重通信问题，将其视为会“拖慢进度”的事项。面对“黑盒问题尚未解决为何继续推进”的质疑，她指出这种路径可能催生依靠人类无法解码的数字进行协调的系统，将黑盒问题推向模型之外。

Hugging Face 研究者 Margaret Mitchell 在社交平台一条线程结尾表达担忧：当前业界群体思维式优先级正朝「通过权重进行通信」的方向突进，却没有同步推进「为人类有意义地解码这些权重」的方向。她认为这是错误的路径（Wrong Path），并担心业界仍会选择这条路。

Margaret Mitchell 指出，AI 行业正推进模型间“通过权重通信”，却未同步研究如何让人类有意义地解码权重，这一取舍是错误路径。她认为，权重通信的安全问题常因被归为“拖慢进度”而被忽视，反映出行业对研究优先级的判断存在偏差。