四年微调实践者称LLM难写文学文本
热点事件持续更新
四年微调实践者称LLM难写文学文本
1 篇报道1 个报道来源42 分钟前更新
先了解这件事
AI 综述
一位本地模型用户结合四年经验称,无论全参数微调还是LoRA、QLoRA,大语言模型都难以创作出《沙丘》级、具有文学价值的文本,高质量文学创作仍应由人完成,模型更适合用于校对。 据其分享,设置学习率1e-7、训练100个epoch的全参数微调后,模型表现也仅略优于开箱版本;LoRA和QLoRA未带来明显突破。他同时认为,EQBench不足以可靠衡量文学创作能力。
AI 根据报道生成 · 11 分钟前更新
最新进展11月12日 20:09
四年微调经验结论:LLM 仍难写出《沙丘》级文学文本报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- AGI Hunt四年微调经验结论:LLM 仍难写出《沙丘》级文学文本
一位本地模型用户以四年 QLoRA 微调和全参训练经验得出结论:LLM 难以创作具备文学价值的文本。无论 100 epoch 全参微调(lr 1e-7)还是 LoRA/QLoRA,模型均只略优于开箱版本,EQBench 也被他视为不可靠。其判断是,高质量文学创作仍应由人完成,LLM 仅适合用于校对。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。