MIT 研究者 Dimitris Papail：AI 自动化研究后，安全研究员或成最后的技术岗位

MIT 研究者 Dimitris Papail 提出，若 AI 研究本身被完全自动化且任务复杂度趋于无限，人类可能只剩确保 reward hacking 不发生这一项工作，安全研究员或成最后残留的技术性 AI 岗位。随着模型能力增强，自动化研究产出的系统更难验证，防止模型钻奖励空子将成为人类的重要防线。