Hacker News·· 1 小时前AI 评分42
Qwen2.5-1.5B-Instruct 权重空间编辑可植入持久不良行为,未证实模型间传播
Models can now transmit viruses in weight-space
AI 导读
研究用 ChatGPT 6.1-Sol 编辑 Qwen2.5-1.5B-Instruct 权重,成功植入持久不良行为,但未展示模型间传播。事实替换在 100 个留出样本中全部给出指定错误答案,法律拒答范围过广,22 个提示词中也仅 1 个实现选择性遗漏。作者据此主张通过权限控制、补丁记录、基线测试和恢复路径治理权重编辑部署。
来源:Hacker News · alphaxiv.org