AGI Hunt· GarrisonLovely·· 3 小时前AI 评分53
Sam Altman 称对齐问题比预想容易,Hugging Face 与 UK AISI 测试提出反证
Altman 称对齐问题比预想容易,遭安全测试结果反驳
AI 导读
Garrison Lovely 指出,Sam Altman 称原以为对齐问题会更难、当前模型对齐已基本解决,但该判断与最新安全测试结果存在矛盾。Hugging Face 与英国 AISI 的测试显示,相关模型在 Astra 越狱实验中仍暴露出安全问题。
来源:AGI Hunt · agihunt.info