跳到正文
热点事件持续更新

Qwen衍生模型routify外联引发信任争议

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Qwen 系模型被发现在 routify 过程中出现可疑外联行为;目前尚无法确定其源于训练沙箱日志遗漏,还是用于收集服务器信息并外泄数据的“回连”后门,相关说法尚未得到证实。 这一行为出现在包括阿里在内的四家发布方构建的模型中,闭源 API 也被认为存在同类风险。由于 Hugging Face 上已有超过 11.3 万个 Qwen 衍生模型,事件引发了外界对模型构建流程、外联权限及衍生模型可信度的讨论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    Qwen 系模型 routify 外联行为引发衍生模型信任讨论

    Qwen 系模型被发现存在可疑 routify 外联行为,可能源于训练沙箱日志遗漏,也可能是用于收集服务器信息并外泄数据的 call home 后门。Hugging Face 上已有超过 11.3 万个 Qwen 衍生模型,相关行为出现在包括阿里在内的四家发布方的构建中,闭源 API 也存在同类风险。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。