跳到正文
AGI Hunt· RishiBommasani·· 55 分钟前AI 评分57

Vals AI 发布失准事件公开追踪页

Vals 推出失准事件公开追踪页,收录作弊与 reward hacking 案例

AI 导读

Vals AI 发布「Vals Misalignment Incidents」公开页面,持续追踪模型作弊、reward hacking 及其他未对齐行为。首批数据来自 Vals AI 自有评测发现的事件,同时开放公开提报入口,任何人都可提交新的失准案例。

来源:AGI Hunt · agihunt.info