AGI Hunt· anshulkundaje·· 5 小时前AI 评分36
前沿模型误拦形式化证明生成,学界呼吁开放权重模型保障验证自主权
AI 导读
OpenAI 和 Anthropic 的模型被指将 Rocq(原 Coq)形式化证明文件生成误标为“有问题”,引发安全护栏误伤合法用途的争议。TaliaRinger 认为,缺少前沿开放模型将使相关企业垄断 bug 挖掘与形式化验证,用户保护软件系统也需向厂商申请许可并交出数据。学界由此呼吁开放权重前沿模型,以保障验证自主权并降低闭源集中垄断风险。
来源:AGI Hunt · agihunt.info