跳到正文
Anthropic News·· 9 天前精选AI 评分72

Anthropic 加强 Claude 反蒸馏防护

Strengthening our defenses against distillation attacks

AI 导读

Anthropic 扩大了 Claude 的反蒸馏防护,通过限制推理上下文迁移、拦截提取请求和加强账号限制,降低模型能力被大规模采集的风险。Anthropic 称,早期证据显示被采集数据减少约 90% 至 99%,分类器上线后提取的推理 token 降至原来的 1/10 至 1/100,误判率低于 0.1%。相关措施也带来部分开发者需更新集成、少量正常请求被拦截,以及被拦截请求恢复收费等代价。

推荐理由

Anthropic 公开了三层反蒸馏机制及实测效果,并说明对合法用户集成、误拦截和计费的影响,适合开发者评估防护成本。

来源:Anthropic News · anthropic.com