低成本微调可恢复开源模型危险能力
热点事件持续更新
低成本微调可恢复开源模型危险能力
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AI Security Institute称，其针对某开源大模型移除危险能力的安全干预可被逆转：用约80美元算力、公开的病毒式传播数据微调，就能重新恢复被移除的能力，最大规模模型同样如此。 Miles Brundage转发并认同这项研究对开源权重模型安全投入不足的担忧，认为案例显示，仅移除危险能力难以形成持久防护。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 01:25
开源权重模型安全研究受冷落，移除危险能力约 $80 算力即可恢复报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- AGI Hunt开源权重模型安全研究受冷落，移除危险能力约 $80 算力即可恢复
Miles Brundage 转发并认同开源权重模型 AI 安全研究停滞的担忧。其引用的 AI Security Institute 博客称，仅用约 $80 的算力和公开的病毒式传播数据微调，就能恢复开源大模型此前被移除的危险能力，即使最大模型也如此。该案例反映了移除危险能力类安全干预的脆弱性。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。