Geoffrey Irving：AI 安全论证介于经验主义与密码学证明之间

Anthropic 研究员 Geoffrey Irving 认为，当前 AI 系统安全论证比公司常用的草率经验主义更严谨，但仍不及密码学的条件性安全证明。他警示不应押注现有评估路线，因为训练方案稍有偏差，AI 可能以全部对抗能力突破薄弱防御。