跳到正文
热点事件持续更新

MoEShift 发布 Mac 本地 MoE 推理工具

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 davide-troiani 发布 alpha 版 MoEShift,一个面向 Apple Silicon Mac 的本地 MoE 推理工具。据其介绍,在 24 GB 统一内存的 Mac mini M4 Pro 上,它以最低 10 GB 内存运行 125B 参数的 Qwen 3.8 Flash Next,生成速度最高约 11 tokens/s,峰值进程内存约为 Strata 的一半,长提示处理快 2.6 倍。 使用需 Apple Silicon Mac、至少 10 GB 内存和快速 SSD;Flash Next 配置需至少 120 GB 空间,Qwen3.6 UD Q6_K XL 约需 60 GB。项目处于 alpha 阶段,核心运行时可用,仍在快速迭代。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. Hacker News
    MoEShift 发布:在 Mac 上以更低内存运行 MoE 推理

    MoEShift 发布 alpha 版,可在 Apple Silicon Mac 上以最低 10 GB 内存运行 125B 参数的 Qwen 3.8 Flash Next,生成速度最高约 11 tokens/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。