跳到正文
热点事件持续更新

将3500 token SOP编译进3B模型并评测

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

作者 porridgeraisin 用 QLoRA 在本地 RTX 3060(12GB 显存)上微调 Qwen2.5-3B-Instruct,把 3500 token 的故障分诊 SOP 编译进模型权重,系统提示词只保留触发字符串 incident_triage_v1。训练三个 epoch,不到四小时完成。 作者在 500 个留出测试场景上评测,称端到端准确率 93.0%,对比 Gemini 2.5 Pro 的 92.0%;输入 token 从 5200 降至 450(减少 91.3%),每千次事件成本从 1.85 美元降至 0.22 美元(8.4 倍)。这些数字均为作者自述,未见第三方复现。 作者指出取舍:规则变更时提示词易于修改,而编译进权重可带来高速度、零提示词开销和可预测的本地执行。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. Hacker News
    把 3500 token 的 SOP 编译进 3B 模型:QLoRA 微调实验

    作者用 QLoRA 在 RTX 3060 上微调 Qwen2.5-3B-Instruct,把 3500 token 的故障分诊 SOP 编译进模型权重,系统提示词只剩一个触发字符串 incident_triage_v1。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。