Vincent Conitzer 团队用博弈论刻画 AI 助手兼顾有用与无害的理论困境

Vincent Conitzer 团队发布由 Ida Mattsson 领衔的新论文，以博弈论形式化 AI 助手在未知对话者身份时兼顾有用与无害的理论边界。研究聚焦用户、第三方或滥用询问等不同情境，指出这一选择存在根本性限制，并与模型对齐中的防信息滥用问题直接相关。