Google联合Red Hat、IBM发布llm-d 1.0
热点事件持续更新
Google联合Red Hat、IBM发布llm-d 1.0
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Google在PyTorch Conference上发布llm-d 1.0，这是与Red Hat、IBM等共同发起的开源、Kubernetes原生分布式LLM推理栈，已有25个以上组织的500多名贡献者参与。 Google称，用户可用已验证的Helm charts在GKE上部署llm-d 1.0；也可先在现有vLLM部署前加前缀感知路由，再逐步加入流控、KV缓存卸载（SGlang、vLLM）和分离式部署。会议期间Google Cloud展台还演示了llm-d配合TPU的运行。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 19:48
Google 联合 Red Hat、IBM 发布 llm-d 1.0 分布式推理开源栈报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- Hacker News精选Google 联合 Red Hat、IBM 发布 llm-d 1.0 分布式推理开源栈
Google 在 PyTorch Conference 上发布 llm-d 1.0，这是与 Red Hat、IBM 等共同发起的 Kubernetes 原生分布式 LLM 推理开源栈，已有 25 个以上组织的 500 多名贡献者参与。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。