OpenAI披露对抗蒸馏防御方法
热点事件持续更新
OpenAI披露对抗蒸馏防御方法
2 篇报道2 个报道来源1 小时前更新
先了解这件事
AI 综述
OpenAI公布检测和阻断对抗性蒸馏的方法,并加强GPT‑6.2 Astra与GPT‑6.2 Sol对受保护内部推理的防护,以阻止攻击者通过诱导模型输出提取推理过程。 OpenAI内部自适应评测显示,相比GPT‑6 Astra,GPT‑6.2 Astra遭攻击提取历史请求受保护推理的成功率由54.0%降至0.2%,提取当前请求推理的成功率由22.9%降至0.9%;这些降幅来自其内部评测,并非第三方验证结果。
AI 根据报道生成 · 31 分钟前更新
最新进展11月21日 04:31
OpenAI 加强 GPT-6.2 系列模型的内部推理防护报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- The DecoderOpenAI 加强 GPT-6.2 系列模型的内部推理防护
OpenAI 加强了 GPT-6.2 Astra 和 GPT-6.2 Sol 的内部推理防护,并准备将部分改进同步至 GPT-6.2 Astra。内部自动化测试显示,从历史请求提取受保护推理的攻击成功率由 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,从当前请求提取的成功率由 22.9% 降至 0.9%。
11月20日
- OpenAI News精选OpenAI 介绍对抗性蒸馏检测与防护方法
OpenAI 介绍了检测和阻断对抗性蒸馏的方法,并在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中加强了受保护推理的防护。其内部自适应评测显示,从较早请求提取受保护推理的攻击成功率由 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率由 22.9% 降至 0.9%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。