跳到正文
AGI Hunt· NirantK·· 3 小时前AI 评分69

开源项目 Laya 发布 0.4.24,支持免微调学习与 73728 tokens 上下文

Laya 0.4.24 发布:0.8B 小模型免微调学习标签,支持 73k 上下文

AI 导读

开源项目 Laya 发布 0.4.24,通过在冻结的 0.8B Qwen3.5 特征上训练凸头部和校准参数,实现无需梯度下降与高端 GPU 的免微调学习。新版本支持文本、图像、语音和视频,将上下文窗口从 8192 扩展至 73728 tokens,并提供 conformal 集合、abstain 与离群标记及自动路由。

来源:AGI Hunt · agihunt.info