AGI Hunt· JacquesThibs·· 3 小时前AI 评分26
研究者 JacquesThibs:OpenAI 对齐失误属可修复的误泛化,非核心风险
研究者评 OpenAI 对齐失误:属可修复的误泛化而非核心风险
AI 导读
AI 安全研究者 JacquesThibs 评论 OpenAI 的一个对齐失误案例,称能力误泛化大体可修复,并非其担心的核心风险。他认为该问题目前主要给 OpenAI 自身带来麻烦,使自动化对齐方案的制定更复杂。
来源:AGI Hunt · agihunt.info