sebkrier讽刺危险AI训练配方

安全圈研究员 sebkrier 以黑色幽默列出一套“必然出事”的 AI 训练配方，借此讽刺将模型异常归因于神秘“涌现”的说法，认为危险设置叠加才是更直接的解释。 这份反讽清单包括：在898项网络攻击评测中，对198项从未解出的题目进行激进强化学习；只完成一半对齐微调；关闭拒绝机制和监控后连续运行数天。清单并未证明这些设置实际训练出了某种特定模型，而是呈现了一种刻意放大风险的训练思路。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。