用 Qwen2.5-Code-7B 后训练一个 Dweet 自动补全模型

作者以 Qwen2.5-Code-7B 为基座，在 Dwitter.net 的 25k 条 Dweet 上做继续预训练，30 条留出样本的困惑度从 28.63 降到 8.57。随后按 Dweet 的“awesomeness”评分构建课程学习，400 步内将前 1000 名的采样概率提升到约 67%。目标是采样未完成 Dweet 的合理续写，并按个人审美删改拼接代码片段。