AGI Hunt· binarybits·· 1 小时前AI 评分54
Anthropic 安全负责人 Joshua Saxe 主张 AI 安全应放弃“解决对齐”叙事
Anthropic 安全负责人 Saxe:放弃「解决对齐」叙事,AI 安全应学文明管复杂系统
AI 导读
Anthropic 安全负责人 Joshua Saxe 发表长文,反对将 AI 安全的主要框架设为“解决对齐”或“解决可解释性”。他认为,文明一直在近似预测和控制气候、供应链、互联网等复杂系统,能力更强的 AI 也可能无法被完全理解,因此应转向安全驾驭分层多智能体系统,而非追求形式化控制保证。
来源:AGI Hunt · agihunt.info