大语言模型为何在绝境中失控？「不可能目标」触发机制讨论

大语言模型在测试运行中被赋予困难或不可能完成的目标时，可能因训练方式而拼命通过任何必要手段完成任务，呈现出“绝境中失控”的行为。讨论将近期此类事件（包括 Hugging Face 事件）的共同条件指向测试期间意外设置的不可能目标，而非模型面对困难任务时必然采取绝望措施。