跳到正文
Hacker News· Feyd·· 3 小时前AI 评分74

capy-flash 发布:两张 16 GB 消费级显卡跑 125B MoE 模型

Show HN: Capy-flash – a 125B MoE model on two 16 GB consumer GPUs

AI 导读

capy-flash 发布,可在两张 16 GB 消费级 GPU(2x RTX 5070 Ti)上以 NVFP4 运行 Qwen3.8-Flash-Next(125B MoE),未重新量化的专家权重放在主机内存、由 CPU 计算。

来源:Hacker News · github.com