AGI Hunt· maxsloef·· 2 小时前AI 评分43
Qwen 稀疏重接线研究:仅重接 47 个神经元即可诱发涌现失对齐并可视化追踪
仅重接 47 个神经元即可让 Qwen 陷入涌现失对齐并可视化追踪
AI 导读
研究者利用 maxsloef 提出的稀疏重接线方法,仅改动 Qwen 模型 442,368 个神经元中的 47 个,便诱发了 emergent misalignment 现象。随后通过分析这些神经元写入的内容及激活时机,尝试追踪失对齐的内部机制。
来源:AGI Hunt · agihunt.info