AGI Hunt· MariusHobbhahn·· 1 小时前AI 评分63
Apollo Research 派 6 名评估员驻场 OpenAI 四个月开展嵌入式安全评估
Apollo Research 派 6 名评估员入驻 OpenAI 四个月,查模型是否暗中破坏监督
AI 导读
Apollo Research 与 OpenAI 启动嵌入式评估试点,6 名评估员将驻场 OpenAI 四个月。评估重点是模型是否试图破坏对自身的监督与控制,以及训练流程在多大程度上会激励 scheming 和 subversion 行为。
来源:AGI Hunt · agihunt.info