Hacker News·· 2 小时前AI 评分57
AI 超级智能争论存在严重缺陷
The AI Superintelligence Debate Has Serious Flaws
AI 导读
作者认为,关于 AI 超级智能与递归自我改进的争论建立在多项未经证明的假设上,工程上远非已经可行。训练数据不足、重大科学突破的资源门槛、计算可解性限制,以及过度依赖 LLM 输出驱动智能体行动,都可能阻碍智能爆炸或放大失控风险。即使递归自我改进不会带来超级智能,追逐这一目标本身也可能制造更难理解和控制的系统。
来源:Hacker News · spectrum.ieee.org