Saxe主张转向驾驭多智能体AI
热点事件持续更新
Saxe主张转向驾驭多智能体AI
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Anthropic安全负责人Joshua Saxe发表长文,主张AI安全不应继续以“解决对齐”或“解决可解释性”并追求形式化控制保证为主要目标。他认为,文明一直在近似预测和控制气候、供应链、互联网等复杂系统,更强的AI也可能无法被完全理解,因此应以分层多智能体系统的安全驾驭取代完全理解和控制的承诺。
AI 根据报道生成 · 49 分钟前更新
最新进展11月20日 23:47
Anthropic 安全负责人 Joshua Saxe 主张 AI 安全应放弃“解决对齐”叙事报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntAnthropic 安全负责人 Joshua Saxe 主张 AI 安全应放弃“解决对齐”叙事
Anthropic 安全负责人 Joshua Saxe 发表长文,反对将 AI 安全的主要框架设为“解决对齐”或“解决可解释性”。他认为,文明一直在近似预测和控制气候、供应链、互联网等复杂系统,能力更强的 AI 也可能无法被完全理解,因此应转向安全驾驭分层多智能体系统,而非追求形式化控制保证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。