两张RTX 5060 Ti评测18个本地LLM，无一取代Qwen3.8-27B

开发者 TheQuantumPhant 用两张 RTX 5060 Ti（共 32 GB 显存）搭建了一套本地 LLM 自动评测流水线，两周内测试了 18 个开源模型，结果没有一个能取代其生产环境所用的 Qwen3.8-27B 无审查版本。 该评测被作者称为个人验收测试而非通用基准：测试用例集中在一个文件中，可替换为自己的用例并保留循环、代码评分和过夜代理；评测可对接任意 OpenAI 兼容端点，服务端只需三条小命令即可包在 llama.cpp 或 vLLM 外。代码、测试套件和全部结果已发布在 GitHub 的 local-llm-eval 项目。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。