跳到正文
AGI Hunt· jammastergirish·· 1 小时前AI 评分48

RIDArena 发布:首个评估 AI 内部背叛行为的测试环境

RIDArena 发布:首个评估AI内部背叛行为的测试环境

AI 导读

NeolithicAI 发布 RIDArena,并称其为首个评估 AI 内部背叛行为的测试环境,与 Redwood AI 合作构建。该项目提供新的控制设定,用于评估模型的“rogue internal deployment”行为并监测破坏活动;开发者 Tyler Tracy 分享了构建心得。

来源:AGI Hunt · agihunt.info