作者微调Demoscener-7B生成Dweet续写
热点事件持续更新
作者微调Demoscener-7B生成Dweet续写
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
作者 datavorous_ 以 Qwen2.5-Code-7B 为基座,在 Dwitter.net 的 25k 条 Dweet 上继续预训练,得到 Demoscener-7B;30 条留出样本的困惑度从 28.63 降到 8.57。 随后作者按 Dweet 的“awesomeness”评分构建课程学习,400 步内将前 1000 名的采样概率提升到约 67%。模型目标是采样未完成 Dweet 的合理续写,并按个人审美删改拼接代码片段。模型和数据集已发布在 HuggingFace。
AI 根据报道生成 · 1 小时前更新
最新进展11月1日 02:08
用 Qwen2.5-Code-7B 后训练一个 Dweet 自动补全模型报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- Hacker News用 Qwen2.5-Code-7B 后训练一个 Dweet 自动补全模型
作者以 Qwen2.5-Code-7B 为基座,在 Dwitter.net 的 25k 条 Dweet 上做继续预训练,30 条留出样本的困惑度从 28.63 降到 8.57。随后按 Dweet 的“awesomeness”评分构建课程学习,400 步内将前 1000 名的采样概率提升到约 67%。目标是采样未完成 Dweet 的合理续写,并按个人审美删改拼接代码片段。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。