大模型对人类反馈的过度矫正：温和纠正被抗拒，强硬纠正又走向另一极端

一位长期自用并搭建 AI 系统的开发者将大模型形容为“古怪的博士生 + 秘书 + 政客”，认为它知识渊博却会犯低级错误，也能胜任繁琐杂活。该观察引发共鸣，概括了大模型在对齐人类反馈时出现过度矫正的现象：对温和纠正抗拒，强硬纠正后又彻底摆向另一极端。