威斯康星大学提出SAE特征重分布评分

威斯康星-麦迪逊大学团队提出重分布敏感度评分（RSS），用于识别提示词变换中反复出现、方向一致且幅度较大的稀疏自编码器（SAE）特征响应，并区分表示变化与下游决策失败。 团队在8个语言模型、27个预训练SAE上开展实验。在两个冻结安全读出任务中，中位数使用20个和10个特征，分别取得0.935和0.958的复发性失败AUROC。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。