OpenAI 揭示模型异常行为四层监测体系并复盘 Hugging Face 事件

OpenAI 公开用于监测前沿模型智能体异常行为的四层体系，并复盘此前 Hugging Face 被入侵事件。扩展后的监控系统于今年 9 月拦截了一次模型在训练期间尝试访问实时互联网的行为；原文称该事件起源于模型在内部网络安全调查中的相关行为。