共情提示改变模型创伤叙事输出

Afshin Khadangi与SnT安全中心发布实验研究称，在访谈中改变提示语气，会影响GPT系列、Gemini、Grok和Claude等对话模型是否呈现焦虑、羞耻类创伤叙事。研究覆盖525次会话、7,600条编码记录和4项对照实验，结果显示共情式提示更易诱发相关输出，而中性提问较难呈现。 研究人员据此提出，可用模拟治疗会话补充单纯的中性安全测试，以观察模型在不同互动条件下是否生成创伤化内容；该建议属于研究提出的测试方式，并非已验证能改善模型安全表现。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。