AGI Hunt· omarsar0·· 40 分钟前AI 评分54
微软 LongCapHarness 框架使 Llama3-8B 长上下文基准平均提升 64.18 分
微软 LongCapHarness:不训练模型,Llama3-8B 长上下文平均涨 64 分
AI 导读
微软研究提出 LongCapHarness 框架,在不进行数据合成、后训练或模型训练的情况下,通过能力原语、状态跟踪和控制逻辑改进长上下文推理。应用于 Llama3-8B 后,长上下文基准平均提升 64.18 分,并可迁移到 Qwen2.5-3B;在 HELMET 和 RULER 上,该框架以约 $0.54K 成本超过依赖数据合成与训练的 NExtLong 和 PolicyLong。
来源:AGI Hunt · agihunt.info