研究者称开源模型后门风险被夸大

研究者 Adam Karvonen 称，开源权重模型植入“后门休眠特工”的风险被严重夸大，开发者实施此类攻击的收益极低，因此相关威胁不应被重点渲染。 他同时认为，相比开源权重模型，闭源 API 场景更容易出现隐私泄露、数据破坏等风险，模型安全研究应更多关注闭源服务。但这是其个人判断，报道未提供独立验证结果。

AI 根据报道生成 · 30 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。