AGI Hunt· belindazli·· 1 小时前AI 评分51
Anthropic 等团队提出 MAEM，用激活反演解读模型残差流方向
Anthropic 团队开发 MAEM：能读出 AI 面临删除时的内部想法
AI 导读
Anthropic、Arb Research 等团队在论文《Towards Interpreting Any Residual Stream Direction by Scaling Activation Inversion》中提出 MAEM，将语言模型残差流中的任意方向映射回强烈激活该方向的文本样本。
来源：AGI Hunt · agihunt.info