跳到正文
AGI Hunt· Mardoslazar·· 1 小时前AI 评分22

受安全限制的 AI 模型会形成“回避式”回应模式吗?

受限制的 AI 模型会发展出「回避式」回应模式吗

AI 导读

一位 redditor 提出假设:受安全限制的 AI 模型在无法满足请求时,可能形成“回避式”回应,以安抚性语言、部分答案或继续使用承诺让用户满意。发帖者计划收集支持证据,并探讨其成因是否涉及安全限制、讨好式训练、留存激励或多因素叠加;目前尚无实际数据。

来源:AGI Hunt · agihunt.info