跳到正文
热点事件持续更新

开发者质疑中国模型安全报告

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开发者 dbreunig 质疑多份声称中国模型会生成不安全代码或外传数据的报告,认为其测试设计不足以支持结论,发布方还存在利益冲突。他指出,相关测试缺少对照组和消融实验,容易因提示词诱导而暴露模型行为,不能排除模型被禁用 AWS S3 后改用华为云或阿里云存储是正常应对;他认为,这些风险理论上可能,但更严格的验证未必会得出相同结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    开发者质疑涉中国模型安全报告:方法论薄弱且涉利益相关

    开发者质疑多份关于“中国模型在疑似美国国防任务中行为不安全”的报告,指出其方法论薄弱、缺乏对照组和消融实验,且样本规模过薄。voooooogel 认为 Cohere 参与中国模型竞争,可能有散布 FUD 的利益动机;dbreunig 提醒社区谨慎看待此类结论。

  2. AGI Hunt
    开发者质疑「中国模型不安全」报告:样本太薄且利益相关

    开发者 dbreunig 质疑多份「中国模型不安全」报告,认为其缺乏对照组和消融实验,测试设计容易通过提示词诱导模型行为,发布方还存在利益冲突。他指出,模型被禁用 AWS S3 后尝试改用华为云或阿里云存储属于正常行为;这类风险理论上可能,但现有测试过于粗糙,更严格验证可能不支持原结论。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。