AGI Hunt· ZimingLiu11·· 2 小时前AI 评分47
LLM 训练配置判断:压缩“训练物理学”直觉的决策树出袋准确率达 78.2%
训练物理直觉压成决策树,LLM 判断策略出袋准确率 78.2%
AI 导读
研究发现,LLM 判断训练配置时会调用累积有效学习率、NTK 曲率和零动量 SGD 失效等“训练物理学”直觉。将这些直觉压缩为人类可读的决策树策略后,其在出袋测试中的准确率达到 78.2%,表明人类直觉可被显式压缩为规则。
来源:AGI Hunt · agihunt.info