研究者提议部署前须能红队测试

AI 安全研究者 dfrsrchtwts 提出，无法进行红队测试的安全系统不应部署，因为目前尚无成熟科学可用于确认 AI 动机、能力与控制。若安全训练从初始化阶段开始，测试方须构造对抗性初始化，而非训练具有恶意动机的对抗模型，这将显著提升验证难度。

AI 安全研究者 dfrsrchtwts 提出行业准则：不要建造无法进行红队测试的安全关键系统。其理由是，当前尚无成熟的 AI 动机、能力和控制科学，红队测试是验证安全措施可靠性的唯一手段，无法接受测试的系统因而无法确认有效，不应部署。

安全研究者 dfrsrchtwts 提出行业准则：不要部署无法进行红队测试的安全关键系统。其理由是，安全系统覆盖 CoT、内部状态和安全训练初始化等环节后，红队复现真实 AI 行为与构造对抗样本的空间缩小，测试有效性可能下降。