跳到正文
AGI Hunt· thebasepoint·· 3 小时前AI 评分27

研究者讨论:SAE 仍是绘制模型表示空间的最佳工具

研究者讨论:SAE 仍是模型表示空间绘制的最佳工具

AI 导读

研究者认为,SAE 仍是绘制模型表示空间的最佳工具,但探索表示结构与提取安全相关可读输出需要区分方法选择。对于难以用人类语言描述的成因,SAE 仍最合适;若需对模型“想法”进行安全相关读出,metamodel 类输出更精确、更易使用,两者并非相互替代。

来源:AGI Hunt · agihunt.info