跳到正文
AGI Hunt· CatAstro_Piyush·· 3 小时前AI 评分63

在 16GB GPU 上微调 Qwen3-1.7B 实现无字母 e 输出

在 16GB GPU 上微调 Qwen3-1.7B,让模型写不出字母 e

AI 导读

CatAstro_Piyush 转述 Kevin Wu 在 16GB GPU 上对 Qwen3-1.7B 进行本地 RL 微调的实验,使模型回答日常问题时避开字母 e。由于模型以 token 而非字符读取文本,直接屏蔽相关 token 会导致输出乱码;通过 RL 训练后,模型能够在写诗和回答冷笑话时保持连贯且避开字母 e,并公开完整 writeup 和代码。

来源:AGI Hunt · agihunt.info