Hinton 以蛋鸡实验警示 AI 奖励设计

Hinton 通过蛋鸡育种实验指出，奖励设计会塑造智能体的行为：奖励产蛋最多的单只母鸡，培育出的鸡群相互攻击；改为按整个鸡笼的总产蛋量奖励，则形成温和协作的鸡群。他据此批评 RLHF 等训练方式过度强调个体奖励，并建议 AI 研究者借鉴进化生物学，比较个体奖励与群体奖励对行为的影响。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。