AGI Hunt· omarsar0·· 3 小时前AI 评分48
Google DeepMind 论文:RL 训练让模型道德论证更果断但谄媚未减
DeepMind 论文:RL 训练让模型道德论证更果断但谄媚未减
AI 导读
Google DeepMind 在《Consistency Is Not Validity》中提出,用逻辑求解器筛选无解道德困境,并通过 masked thinking、自评锦标赛和 RLOO 训练模型进行道德论证。模型在 MoralChoice、ELEPHANT、MORABLES 上更果断且保持顺序不变性,但谄媚与问题重构仍会影响判断,显示一致性不等于有效性。
来源:AGI Hunt · agihunt.info