跳到正文
Hacker News· gmays·· 2 小时前精选AI 评分78

Google 开源端侧 GPU 推理引擎 ML Drift

ML Drift: Next-Gen GPU AI/ML Inference at the Edge

AI 导读

Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift,通过抽象 OpenGL ES、OpenCL、Metal 和 WebGPU 屏蔽硬件差异,并作为 LiteRT 的核心 GPU 加速引擎。

推荐理由

Google 开源端侧 GPU 推理引擎 ML Drift,并给出 YouTube Shorts、Photos、Adobe 等迁移后的延迟与内存数据。

来源:Hacker News · developers.googleblog.com