论文揭示AI助手有用与无害的博弈困境

Vincent Conitzer 团队发布由 Ida Mattsson 领衔的新论文，以博弈论形式化 AI 助手在无法确认对话者身份时兼顾有用与无害的理论边界。 研究区分用户、第三方及滥用询问等不同情境，指出助手在这些情境中作出的选择面临根本性限制，并与模型对齐中的防信息滥用问题直接相关。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。