将3500 token SOP编译进3B模型并评测
热点事件持续更新
将3500 token SOP编译进3B模型并评测
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
作者 porridgeraisin 用 QLoRA 在本地 RTX 3060(12GB 显存)上微调 Qwen2.5-3B-Instruct,把 3500 token 的故障分诊 SOP 编译进模型权重,系统提示词只保留触发字符串 incident_triage_v1。训练三个 epoch,不到四小时完成。 作者在 500 个留出测试场景上评测,称端到端准确率 93.0%,对比 Gemini 2.5 Pro 的 92.0%;输入 token 从 5200 降至 450(减少 91.3%),每千次事件成本从 1.85 美元降至 0.22 美元(8.4 倍)。这些数字均为作者自述,未见第三方复现。 作者指出取舍:规则变更时提示词易于修改,而编译进权重可带来高速度、零提示词开销和可预测的本地执行。
AI 根据报道生成 · 1 小时前更新
最新进展10月24日 23:26
把 3500 token 的 SOP 编译进 3B 模型:QLoRA 微调实验报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- Hacker News把 3500 token 的 SOP 编译进 3B 模型:QLoRA 微调实验
作者用 QLoRA 在 RTX 3060 上微调 Qwen2.5-3B-Instruct,把 3500 token 的故障分诊 SOP 编译进模型权重,系统提示词只剩一个触发字符串 incident_triage_v1。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。