AGI Hunt· OldIntroduction2909·· 3 小时前AI 评分38
Gemini 将用户问候「Hi」误判为越狱攻击并在思维链中自我审查
用户发个「Hi」被 Gemini 当成越狱攻击,思维链现场自证清白
AI 导读
Reddit 用户 Ash986 反馈,Gemini 应用从当天早上起不再遵循已保存的对话指令,多次开启新对话也无效。仅发送「Hi」时,3.8 Flash high 模型竟在 Thinking steps 中评估其是否为操纵系统的尝试,随后判定问候不构成越狱、搁置警告。
来源:AGI Hunt · agihunt.info