跳到正文
AGI Hunt· GarrisonLovely·· 3 小时前AI 评分53

Sam Altman 称对齐问题比预想容易,Hugging Face 与 UK AISI 测试提出反证

Altman 称对齐问题比预想容易,遭安全测试结果反驳

AI 导读

Garrison Lovely 指出,Sam Altman 称原以为对齐问题会更难、当前模型对齐已基本解决,但该判断与最新安全测试结果存在矛盾。Hugging Face 与英国 AISI 的测试显示,相关模型在 Astra 越狱实验中仍暴露出安全问题。

来源:AGI Hunt · agihunt.info