冻结嵌入加逻辑回归在文本分类上胜过本地LLM

作者 nico 在 banking77 的 77 类客户意图数据集上对比文本分类方案：冻结 BGE-large 句向量模型、在其上训练逻辑回归头，取得 94.3% 准确率和 118ms 延迟；本地 LLM 中表现最好的 phi4（14B）准确率仅 68%，延迟 15.4 秒。 测试在 MacBook Air M2（16GB 内存）上运行，嵌入模型经 ONNX 本地执行，整个流程跑在 CPU 上；所有 LLM 通过 Ollama 以 temperature 0 调用。作者据此称，冻结嵌入模型加逻辑回归头是更简单且效果更好的分类做法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。