Alignment Journal公开匿名在审论文并征集审稿

Alignment Journal公开匿名论文《把授权委托给失准智能体》，并开放有报酬的社区自荐审稿。论文讨论如何将授权交给可能与主委托方目标不一致的智能体，并提出集体审查机制。 论文称，在特定条件下，主委托方的期望表现不劣于基线策略；在折扣MDP中，奖励函数空间全覆盖可使一致批准规则下的纳什均衡保持安全。实验进一步显示，当允许部分否决、且不存在单一对齐审查者时，集体审查仍能维持安全。这些结果属于论文自身提出的理论与实验结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。