AGI Hunt· dfrsrchtwts·· 3 小时前AI 评分32
安全研究者 dfrsrchtwts 提出:无法红队测试的安全关键系统不应部署
安全研究者提出新准则:造不出可红队测试的安全系统就别部署
AI 导读
安全研究者 dfrsrchtwts 提出行业准则:不要部署无法进行红队测试的安全关键系统。其理由是,安全系统覆盖 CoT、内部状态和安全训练初始化等环节后,红队复现真实 AI 行为与构造对抗样本的空间缩小,测试有效性可能下降。
来源:AGI Hunt · agihunt.info