AGI Hunt· novasarc01·· 2 小时前AI 评分30
RSI 时代:验证或成瓶颈,新知识产出速度可能远超验证速度
RSI 时代验证将成瓶颈:新知识产出速度或远超验证速度
AI 导读
一项关于递归自我改进(RSI)的观点认为,随着 RSI 模型快速进步,新知识的产生速度可能远超验证速度。物理领域依赖实验确认、生物领域依赖实验室复现,验证若无法规模化,就会积压大量“看似合理”的发现。该观点还预言,agent 间的 verification gaming 将指数增长,验证方需要相应的改进机制以应对验证博弈。
来源:AGI Hunt · agihunt.info