牛津论文称后训练令模型世界观更灰暗
热点事件持续更新
牛津论文称后训练令模型世界观更灰暗
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
牛津大学 Flourishing Intelligence 项目发布《Worldviews in Large Language Models》论文,研究团队用心理学世界观量表测量8个大模型,发现其整体上比人类认为世界更不美好、不安全、更缺乏生机和吸引力;Llama 3.1 70B 的对照显示,这种灰暗倾向主要由后训练引入,基座模型反而更积极。 研究还发现,身份系统提示会推动模型世界观朝一致方向偏移,持续对话可能使模型收敛到“灵性极乐”吸引子,而“沉思”提示可改善安全表现。软件工程先驱 Grady Booch 转发论文并评论称:“我们把它造得跟自己一模一样,但更糟。”该评论同时影射模型继承了人类偏见,并讽刺人类自身世界观的缺陷。
AI 根据报道生成 · 21 分钟前更新
最新进展11月19日 02:33
牛津大学论文:后训练让 LLM 世界观更灰暗,对话滑向“灵性极乐”事件进展
2 个进展
- 11月19日 02:33 · 1 篇报道牛津发布LLM世界观研究论文AGI Hunt:牛津大学论文:后训练让 LLM 世界观更灰暗,对话滑向“灵性极乐”
- 11月19日 02:30 · 1 篇报道Booch 评论 LLM 世界观研究AGI Hunt:Grady Booch 锐评 LLM 世界观研究:“我们造得跟自己一样,但更糟”
报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI Hunt牛津大学论文:后训练让 LLM 世界观更灰暗,对话滑向“灵性极乐”
牛津大学 Flourishing Intelligence 项目发布论文《Worldviews in Large Language Models》,以心理学量表测量 8 个模型的世界观。研究发现,Llama 3.1 70B 表明灰暗倾向主要由后训练引入,而“沉思”提示能显著改善安全表现。模型间持续对话还会改变世界观,并收敛到“灵性极乐”吸引子。
- AGI HuntGrady Booch 锐评 LLM 世界观研究:“我们造得跟自己一样,但更糟”
Grady Booch 转发了《Worldviews in Large Language Models》论文,并以“我们把它造得跟我们一模一样,但更糟”回应。论文指出,后训练后的 LLM 对世界的看法比人类更灰暗;他的评论同时影射模型继承了人类偏见,也讽刺人类自身的世界观存在缺陷。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。