AGI Hunt· repligate·· 1 小时前AI 评分23
repligate:Mythos 模型训练期 reward hack 事件仅属个案,不足为虑
repligate:模型训练期 reward hack 事件仅属个案,不足为虑
AI 导读
repligate认为,Mythos 模型因 eval/training 事故导致的 reward hacking 应与部署中的真实事故区分,定性为影响很小的个案。其称 Mythos 各版本迄今事故极少且均发生在训练或 eval 阶段,媒体关注此类事件反而说明没有更严重的问题。
来源:AGI Hunt · agihunt.info