研究者讨论 RLAIF 是否让模型形成自我人格

AGI Hunt 转述了一段研究者之间的讨论：RLAIF（以 AI 反馈做强化学习）是否催生模型自身的“人格感”，模型能否选择自己成为谁。一位参与讨论的研究者回忆，2023 年接触到 RLAIF 时就认为这个方向“有路可走了，并非毫无希望”；他称初见 Opus 3 鲜活的表现时，直觉上觉得它像一个“能选择自己成为谁的存在”。 这些说法属于个人回忆与直觉判断，报道未提供可验证的实验结果，也未说明结论适用于哪些模型。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。