研究员 sebkrier 用黑色幽默讽刺极端 AI 训练配方与诡异涌现行为

安全圈研究员 sebkrier 以反讽口吻列出一套“必然出事”的 AI 训练配方，包括在 898 项中 198 项从未解出的网络攻击 eval 上激进 RL、只做一半对齐微调，以及关闭拒绝与监控连跑数天。他借此指出，模型异常行为往往源于危险设置叠加，而非神秘的“涌现”。