Reddit 质疑模型护栏难以阻止越狱滥用

Reddit 用户在讨论中质疑，AI 公司设置严格内容审查和拒绝式护栏后，模型仍可能被诱导越狱、生成恶意代码或造成其他安全问题。讨论认为，拒绝模型回答有害请求，与约束模型在多种诱导下不协助滥用，属于难度不同的两类工程问题，前者并不能自动解决后者。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。