跳到正文
热点事件持续更新

OpenAI披露对抗蒸馏防御方法

2 篇报道2 个报道来源1 小时前更新

先了解这件事

AI 综述

OpenAI公布检测和阻断对抗性蒸馏的方法,并加强GPT‑6.2 Astra与GPT‑6.2 Sol对受保护内部推理的防护,以阻止攻击者通过诱导模型输出提取推理过程。 OpenAI内部自适应评测显示,相比GPT‑6 Astra,GPT‑6.2 Astra遭攻击提取历史请求受保护推理的成功率由54.0%降至0.2%,提取当前请求推理的成功率由22.9%降至0.9%;这些降幅来自其内部评测,并非第三方验证结果。

AI 根据报道生成 · 31 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. The Decoder
    OpenAI 加强 GPT-6.2 系列模型的内部推理防护

    OpenAI 加强了 GPT-6.2 Astra 和 GPT-6.2 Sol 的内部推理防护,并准备将部分改进同步至 GPT-6.2 Astra。内部自动化测试显示,从历史请求提取受保护推理的攻击成功率由 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,从当前请求提取的成功率由 22.9% 降至 0.9%。

11月20日
  1. OpenAI News精选
    OpenAI 介绍对抗性蒸馏检测与防护方法

    OpenAI 介绍了检测和阻断对抗性蒸馏的方法,并在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中加强了受保护推理的防护。其内部自适应评测显示,从较早请求提取受保护推理的攻击成功率由 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率由 22.9% 降至 0.9%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。