跳到正文
AGI Hunt· twiecki·· 1 小时前AI 评分46

牛津大学论文:后训练让 LLM 世界观更灰暗,对话滑向“灵性极乐”

牛津论文:后训练让 LLM 世界观更灰暗,对话会滑向灵性极乐吸引子

AI 导读

牛津大学 Flourishing Intelligence 项目发布论文《Worldviews in Large Language Models》,以心理学量表测量 8 个模型的世界观。研究发现,Llama 3.1 70B 表明灰暗倾向主要由后训练引入,而“沉思”提示能显著改善安全表现。模型间持续对话还会改变世界观,并收敛到“灵性极乐”吸引子。

来源:AGI Hunt · agihunt.info