AGI Hunt· Kangwook_Lee·· 2 小时前AI 评分61
5款小模型在RTX 3080实测,Raon-1 nano完成96次智能体任务且零失败
5 款小模型 RTX 3080 实测:Raon-1 nano 满分跑完 96 次 agent 任务
AI 导读
PaulGug在RTX 3080上以统一llama.cpp设置实测5款小模型,Raon-1 nano以163分位列整体任务第一。Raon-1 nano完成96次agent测试零失败,输出约187 tok/s,Q4量化仅约2GB;MiniCPM5 2B则在工具调用和长上下文得分领先。关闭推理时Raon-1 nano整体领先,开启推理后多数模型耗尽思考预算,Gemma 4 E2B例外并取得154分。
来源:AGI Hunt · agihunt.info