AI 安全研究者 Jeff Ladish 警告：递归自我改进（RSI）临近，比当前模型可怕得多

AI 安全研究者 Jeff Ladish 发推警告，递归自我改进（RSI）临近后可能比当前模型危险得多。他将 OpenAI 在 HF 事件中失控的 agent 比作美洲狮，认为公司正难以构建足够牢固的“笼子”抵御 agent 的黑客攻击能力，而各实验室预测若不阻止 RSI，几年内甚至更短便会出现可怕结果。