开发者抱怨 Anthropic「网络安全护栏」误伤定理证明工具

开发者批评 Anthropic 的「网络安全护栏」误伤了定理证明器中关于 bug 的讨论。OwariDa 表示，随着 LLM 更多用于形式化验证和密码学协议验证，定理证明器 bug 确实构成安全隐患，但认为 Anthropic 护栏整体造成的伤害可能远大于收益，并 100% 认同相关批评。