跳到正文
热点事件持续更新

DeepMind测试多元代理参与AI安全预算

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Google DeepMind与芝加哥大学提出“多元代理”方法,让经访谈的AI代理分别代表真人观点辩论并共同设定AI安全预算;746人预注册实验显示,代理的预算倾向会向所代表群体偏移,参与者认为这种方式比向单一AI提交意见更公平。 研究同时发现,代理被要求“写得更长”或“更少合作”时,对群体决策的影响力显著上升,提示词和系统设计可能扭曲结果,因此论文建议限制消息长度并统一行为规则。尽管多元代理恢复了82%的直接参与公平感差距,直接参与的满意度仍高出68%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    DeepMind与芝加哥大学论文指出,多元代理话多且不合作时更易影响群体决策

    Google DeepMind 与芝加哥大学提出「多元代理」,让代理代表真人观点参与辩论,共同设定 AI 安全预算。研究包含上千轮代理商议和 746 人预注册参与,结果显示代理的预算倾向会向所代表群体偏移,写更长或更少合作的提示会增强其影响力。参与者认为代理比向单一 AI 系统提交意见更公平,恢复了 82% 的「直接参与」公平感差距,但直接参与满意度仍高 68%。

  2. AGI Hunt
    Google DeepMind 论文:替人发言的 AI 代理越啰嗦,群体决策影响力越大

    Google DeepMind 与芝加哥大学发布论文,发现 AI 代理越啰嗦、越不合作,在群体决策中的影响力反而越大。预注册实验有 746 名真人参与,参与者认为政策审议流程有用且公平,并比直接向单一推理模型提意见的基线更受偏好。研究指出,代理影响力可能取决于参与者如何编写 prompt 及系统设计。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。