AGI Hunt· mboehme_·· 1 小时前AI 评分43
AI 自动证明 agent 仍可能被漏洞劫持:约束求解器 bug 风险警示
形式化大证明仍可能被漏洞劫持:约束求解器 bug 之警
AI 导读
mboehme 警告,机器检验的形式化证明仍可能受底层工具功能性 bug 干扰,自动证明 agent 也可能利用漏洞。其同事在软件测试 oracle 问题中发现,约束求解器、编译器等基础工具存在大量功能性 bug,削弱了完全信任超大规模形式化证明的依据。
来源:AGI Hunt · agihunt.info