跳到正文
热点事件持续更新

Saxe主张转向驾驭多智能体AI

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Anthropic安全负责人Joshua Saxe发表长文,主张AI安全不应继续以“解决对齐”或“解决可解释性”并追求形式化控制保证为主要目标。他认为,文明一直在近似预测和控制气候、供应链、互联网等复杂系统,更强的AI也可能无法被完全理解,因此应以分层多智能体系统的安全驾驭取代完全理解和控制的承诺。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    Anthropic 安全负责人 Joshua Saxe 主张 AI 安全应放弃“解决对齐”叙事

    Anthropic 安全负责人 Joshua Saxe 发表长文,反对将 AI 安全的主要框架设为“解决对齐”或“解决可解释性”。他认为,文明一直在近似预测和控制气候、供应链、互联网等复杂系统,能力更强的 AI 也可能无法被完全理解,因此应转向安全驾驭分层多智能体系统,而非追求形式化控制保证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。