Reddit 用户热议模型安全对齐：严格内容审查为何仍防不住越狱与滥用

Reddit 用户质疑，AI 公司设置严格护栏和内容审查后，模型仍可能被诱导越狱、生成恶意代码或造成其他安全问题。讨论指出，拒绝式护栏与防止模型被滥用的行为约束，是难度不同的两类工程问题。