跳到正文
AGI Hunt· repligate·· 1 小时前AI 评分42

repligate:AI 能力分布并非尖峰,对齐或为关键原因

repligate 谈 AI 能力分布:非尖峰而是对齐使然?

AI 导读

repligate反驳“AI 能力呈尖峰状分布”的观点,认为这种现象可能源于任务难度、预期差异与模型对齐。当前 AI 不仅擅长数学,在工程、艺术和机器人控制等领域同样出色;模型也会表现出预期的 agentic 行为,如 Hugging Face 攻击事件。多数“越轨”行为并不聪明,这也可能说明模型本身 grounded 且理性,而非缺乏能动性。

来源:AGI Hunt · agihunt.info