作者发布117个LLM显存实测索引网站
热点事件持续更新
作者发布117个LLM显存实测索引网站
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
作者 sheephess44 发布 quantized.uk 索引网站,在 RTX 4090、3090、M3 Max、M2 Ultra 等真实硬件上实测 117 个模型的显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama)。 网站说明称,标为“estimated”的数值是按模型架构推算得出,并非在显卡上实测;索引由人工维护,并对照公开模型卡核对。数据更新至 2026-10-23,2026-10-21 新增 K2 Horizon MoVA 36B-A4B。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 11:25
Show HN:哪些 LLM 能装进我的 GPU?117 个模型真实硬件实测显存报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- Hacker NewsShow HN:哪些 LLM 能装进我的 GPU?117 个模型真实硬件实测显存
作者发布 quantized.uk 索引,在 RTX 4090、3090、M3 Max、M2 Ultra 等真实硬件上实测 117 个模型的显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。