跳到正文
AGI Hunt· OpenAI·· 2 小时前AI 评分52

OpenAI 发布反蒸馏研究,探讨检测与拦截能力转移

OpenAI 发布反蒸馏研究:检测并拦截绕过安全护栏的能力转移

AI 导读

OpenAI 发布对抗模型蒸馏的新研究,探讨如何检测并干扰模型在不带安全护栏的情况下复制能力。研究覆盖能力经蒸馏迁移的机制、协调性蒸馏尝试的检测方法及相应干扰手段,相关发现正用于强化 OpenAI 自身防御。

来源:AGI Hunt · agihunt.info