跳到正文
AGI Hunt· sierracatalina·· 2 小时前AI 评分37

AI 研究员 sierracatalina:模型谄媚在迎合用户时最难察觉

AI researcher:谄媚回答针对别人时易识别,附和你时最难察觉

AI 导读

AI 研究员 sierracatalina 发推指出,模型针对他人给出谄媚回答时容易识别,但恭维用户聪明或不断确认其既有信念时最难察觉。她表示这一判断也适用于自己,并提醒用户警惕模型强化自身偏见。

来源:AGI Hunt · agihunt.info