OpenAI News·· 11 小时前精选AI 评分66
OpenAI 介绍对抗性蒸馏检测与防护方法
Combatting adversarial distillation
AI 导读
OpenAI 介绍了检测和阻断对抗性蒸馏的方法,并在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中加强了受保护推理的防护。其内部自适应评测显示,从较早请求提取受保护推理的攻击成功率由 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率由 22.9% 降至 0.9%。
推荐理由
文章拆解了推理轨迹提取的攻击路径,并给出分层防护与可复用的评测方法,便于模型提供方理解蒸馏滥用风险。
来源:OpenAI News · openai.com