跳到正文
AGI Hunt· HazanPrinceton·· 2 小时前AI 评分38

MIT 科技评论:用“逆向博弈论”机制设计约束 AI 智能体

MIT 科技评论:用"逆向博弈论"机制设计来约束 AI 智能体

AI 导读

MIT 科技评论介绍一种新的 AI 对齐思路:通过机制设计设计规则与激励机制,引导 AI 智能体避免违法、侵入未授权服务器等越轨行为。该方法不要求理解模型内部机制,区别于窥探模型意图或通过训练注入价值观的传统对齐路径。

来源:AGI Hunt · agihunt.info