跳到正文
Hacker News· k33wu·· 2 小时前AI 评分36

在 16GB GPU 上微调 Qwen3-1.7B,让模型回答不含字母 e

Fine-tuned Qwen on my 16gb GPU to respond without the letter e

AI 导读

开发者在自有的 16GB GPU 上微调 Qwen3-1.7B,使其回答日常提示时不使用字母 e。由于模型按 token 而非字母处理文本,直接指令无效,200 条评测回答全部含 e;加入屏蔽 e 的 mask 后可用率仅 26%。作者随后用 SFT 和 RL 训练,以 GPT-6 Luna 对答案的连贯性与切题度打分(1-5 分,均需至少 4 分)作为奖励。

来源:Hacker News · kevin-wu.ca