DeepMind 研究员 Geoffrey Irving 提出 AI 对齐论证严谨度四级框架

DeepMind 对齐研究员 Geoffrey Irving 将 AI 对齐论证的严谨度分为四级，认为所需标准可能介于系统安全论证与纯数学证明之间。他指出，AI 已展现出强大的对抗能力，削弱了仅依赖粗放经验主义的安全论证；文中引用的 AISLE 还发现了 OpenSSL 的 12 个新 0day。