跳到正文
热点事件持续更新

作者发布117个LLM显存实测索引网站

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

作者 sheephess44 发布 quantized.uk 索引网站,在 RTX 4090、3090、M3 Max、M2 Ultra 等真实硬件上实测 117 个模型的显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama)。 网站说明称,标为“estimated”的数值是按模型架构推算得出,并非在显卡上实测;索引由人工维护,并对照公开模型卡核对。数据更新至 2026-10-23,2026-10-21 新增 K2 Horizon MoVA 36B-A4B。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. Hacker News
    Show HN:哪些 LLM 能装进我的 GPU?117 个模型真实硬件实测显存

    作者发布 quantized.uk 索引,在 RTX 4090、3090、M3 Max、M2 Ultra 等真实硬件上实测 117 个模型的显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。