作者实测 MacBook 本地跑大模型：电费远低于 API，但 GPU 闲置

作者 ansnadeem 在配备 M5 Pro、64GB 内存的 MacBook Pro 上以 4-bit 量化本地运行 Qwen3.8 27B，8 月 1 日至 10 月 23 日共输入约 1060 万 token、输出 39.1 万 token。他称同期在 OpenRouter 用常规供应商约需 5 美元，本地运行的电费约 12 美分；电费按生成时约 60 W、每千瓦时 13 美分（犹他州平均居民电价）估算。 代价是速度与利用率：该 27B 模型约每秒输出 17 个 token，长提示需约 40 秒才开始返回；近三个月 GPU 累计仅忙约 15 小时。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。