Hacker News· sheephess44·· 2 小时前AI 评分60
Show HN：哪些 LLM 能装进我的 GPU？117 个模型真实硬件实测显存
Show HN: What LLM fits my GPU? – VRAM measured on real hardware for 117 models
AI 导读
作者发布 quantized.uk 索引，在 RTX 4090、3090、M3 Max、M2 Ultra 等真实硬件上实测 117 个模型的显存占用与 tok/s，并标注所用推理栈（llama.cpp、ExLlamaV2、vLLM、Ollama）。
来源：Hacker News · quantized.uk