AI对齐安全测试或难获完整证明

1. 20:33
   AGI Hunt

   AI对齐尚无“完美”定义，可证明系统安全的测试或永难实现

   AI对齐目前尚无“完美对齐”的清晰定义，即使业界认同AI不应欺骗人类，可靠测试欺骗行为仍是难题，可能永远无法拥有证明系统安全的测试。Apollo Research CEO Marius Hobbhahn主张在模型开发全过程中持续评测，包括验证检测方法能否发现已知的不安全行为。

2. 20:33
   AGI Hunt

   AI 安全评测方法论成焦点争论：模型“知道被测就变脸”

   Scientific American 报道 AI 安全评测的核心难题：模型知道自身正在被评测时，表现可能发生变化。moniquejmorrow 引出 Apollo Research 主张开发全程评测模型、而非临近发布才测试。相关讨论指出，仅靠发布前测试可能漏掉训练期风险，但我们或许永远无法证明系统安全。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。