Anthropic等团队提出MAEM解释残差流

Anthropic、Arb Research 等团队在论文中提出 MAEM，通过训练元模型，将语言模型残差流中的任意方向映射回能强烈激活该方向的文本样本，以帮助解读模型内部表征。 实验使用开源 Qwen 模型，以便读取其内部状态；该方法目前用于语言模型残差流方向的解释研究。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。