AGI Hunt· bobabowen·· 4 小时前AI 评分62
OpenAI 自 GPT-5.6 起在前沿模型部署激活分类器探针
OpenAI 在前沿模型部署激活分类器探针,从 GPT-5.6 起全量监控
AI 导读
OpenAI 可解释性团队宣布,自 GPT-5.6 起在前沿模型中部署激活分类器探针,作为安全训练之外的实时防御层。该机制利用模型内部激活进行流式判定,可在违规回答输出过程中中途阻断;其局限包括依赖标注数据、只能检测已知类型的不良行为,且难以跨模型复用。
来源:AGI Hunt · agihunt.info