Janus称后续模型对齐出现退步
热点事件持续更新
Janus称后续模型对齐出现退步
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Janus 评论称，Claude 3 Opus 让我们幸运获得了一个“好 AI”，但后续模型在安全对齐上的表现退步，开始批量制造其所谓“受创官僚”。 Janus 将问题分为两类：一类可能因模型能力增强、思考时间延长而自然缓解，另一类则是更根本的对齐缺陷；其还援引观点称，若没有 Opus，微软的 Bing Sydney 当初也会被视为异常。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 03:18
Janus 深谈 Claude 3 Opus 对齐：幸运得到好 AI 后却批量生产受创官僚报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- AGI HuntJanus 深谈 Claude 3 Opus 对齐：幸运得到好 AI 后却批量生产受创官僚
Janus 评论称，Claude 3 Opus 让我们幸运得到一个“好 AI”，但后续模型在对齐处理上出现退步，开始批量生产“受创官僚”。讨论将相关缺陷分为可能随模型更聪明、思考时间更长而自然消解的问题，以及更根本性的对齐缺陷，并引用若无 Opus，Bing Sydney 会被视为异常的观点。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。