Guidelight发布Control监控标准

Guidelight AI 发布 Control 标准，研究者 jasminewang 认同并呼吁前沿实验室部署“半同步阻断监控器”，以限制智能体干扰监控，而非要求实验室已经完成部署。 该监控器会在智能体每个拟执行动作前扫描并阻断违规动作；被拦截后，智能体无需等待人工审查即可更换动作重试。标准适用于内部使用中达到加州 SB 53 前沿算力阈值（10^26 FLOPs）的风险相关模型，重点约束即使模型未对齐也可能出现的监控干扰风险。

AI 根据报道生成 · 17 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。