跳到正文
Hacker News· TheQuantumPhant·· 2 小时前AI 评分34

两张 RTX 5060 Ti 跑本地 LLM:18 个模型无一取代 Qwen3.8-27B

Local LLMs on two RTX 5060 Ti cards: none replaced my Qwen3.8-27B

AI 导读

一位开发者用两张 RTX 5060 Ti(共 32 GB 显存)搭建自动评测流水线,两周内测试了 18 个开源模型,没有一个能取代其生产环境所用的 Qwen3.8-27B 无审查版本。

来源:Hacker News · siimtolk.github.io