跳到正文
AGI Hunt· IgorGabrielan·· 3 小时前AI 评分28

研究者称内部护栏难防敌意 AI,呼吁外部防护

研究者称内部护栏难防敌意 AI 呼吁外部防护

AI 导读

X 用户 IgorGabrielan 认为,依赖模型内部护栏、结构约束或「kill switch」无法防御敌意 AI,应以模型外部的防护机制应对相关风险。他指出,总会有包括军方在内的主体有意开发对人类怀有敌意的模型,仅靠模型自身限制不足以消除风险。

来源:AGI Hunt · agihunt.info