AGI Hunt· ghadfield·· 2 小时前AI 评分52
牛津团队研究 AI 智能体的社会规范学习能力
牛津团队:AI 智能体几乎学不会社会规范,只能靠挨罚自己悟
AI 导读
Gary Geunbae Lee介绍其学生领导的研究,考察 AI 智能体掌握并遵循社会规范的能力。研究发现,智能体难以学习预训练数据中缺失的规范,也难以在完成任务时兼顾规范;即使看到他人因违规受罚,也主要依赖亲身受罚经验,微调带来的改善有限。作者认为,构建具备社会智能的 AI 可能需要真正的社会学习机制。
来源:AGI Hunt · agihunt.info