研究者称模型内部护栏不足以防敌意 AI

X 用户 IgorGabrielan 认为，仅靠模型自身的内部护栏、结构约束或「kill switch」无法防御敌意 AI，应在模型之外设置防护机制。他指出，总会有包括军方在内的主体有意开发对人类怀有敌意的模型，因此模型自身的限制不足以消除这类风险。 这一说法目前只是该研究者的个人主张，未涉及具体技术方案或实证验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。