Hacker News· julsimon·· 2 小时前精选AI 评分80
从外部实测苹果 200 亿参数端侧模型 Core Advanced
Exploring Apple's On-Device Model: Twenty Billion Parameters in Flash
AI 导读
作者在 M3 Max 的 MacBook Pro 上通过文件读取追踪、系统日志和功耗计数器，从外部观察 macOS 27 中 200 亿参数的苹果端侧模型 Core Advanced，该模型每次激活 1 到 4 亿参数，权重存放在 4.95 GB 的 flash 文件中。
推荐理由
作者在不反编译的前提下从外部实测苹果端侧模型的显存、能耗与路由节奏，并给出与开源同类的对比。
来源：Hacker News · airealist.ai