Hacker News· Feyd·· 3 小时前AI 评分74
capy-flash 发布:两张 16 GB 消费级显卡跑 125B MoE 模型
Show HN: Capy-flash – a 125B MoE model on two 16 GB consumer GPUs
AI 导读
capy-flash 发布,可在两张 16 GB 消费级 GPU(2x RTX 5070 Ti)上以 NVFP4 运行 Qwen3.8-Flash-Next(125B MoE),未重新量化的专家权重放在主机内存、由 CPU 计算。
来源:Hacker News · github.com