跳到正文
AGI Hunt· JeffLadish·· 4 小时前AI 评分30

Jeff Ladish:没人会训练不说谎的模型,却有人声称能创造对齐的超级智能

没人会训练不说谎的模型,却有人声称能造对齐的超级智能

AI 导读

AI 安全研究者 Jeff Ladish 提出,当前尚无人掌握训练模型始终诚实、不对你说谎的方法,但一些人仍声称能够创造价值对齐的超级智能。这一观点直接质疑 AI 实验室的对齐叙事,凸显现有对齐研究与模型诚实性之间的落差。

来源:AGI Hunt · agihunt.info