形式化验证能否覆盖真实威胁引发争论

davidmanheim 与 akanoego 就形式化验证在 AI 安全中的实际价值展开争论。davidmanheim 认为，规格无法穷举真实世界中的全部可信威胁，因此形式化验证只能证明系统符合既定规格，不能证明规格本身覆盖了所有风险。 akanoego 则坚持，规格比代码更容易检查，正是形式化验证的核心价值。争论没有形成一致结论，但凸显了形式化验证的边界：它能证明实现符合规格，却不能仅凭形式化方法消除规格遗漏真实威胁的风险。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。