跳到正文
AGI Hunt· peterwildeford·· 1 小时前AI 评分40

Gary Marcus 讽刺 Anthropic 递归自我改进表态矛盾

Gary Marcus 讽刺 Anthropic:一边警告递归自我改进,一边称其为竞争优势

AI 导读

Gary Marcus 讽刺 Anthropic:一边警告递归自我改进风险,一边将其称为“关键竞争优势”。Anthropic 的安全文件称递归自我改进可能超出人类理解和控制系统的能力,应谨慎对待,甚至不应追求;同一段路演中却对相关进展表示兴奋,由此引发安全表态与商业动机之间张力的讨论。

来源:AGI Hunt · agihunt.info