AI 安全研究员 Mitchell：拟人化措辞易诱发过度信任与 AI 安全事故

AI 安全研究员 Mitchell 指出，对 AI 智能体使用拟人化措辞会使用户误以为系统能理解意图且行为可预测，从而提高 AI 安全失败概率。模型同一条指令在不同运行间并不稳定，prompt 轻微改写或更换模型都可能改变行为，输出也来自随机采样而非确定性过程。