llm-d 发布 v1.0.0 推理栈

llm-d 发布 v1.0.0，将组织内各组件版本统一对齐到 v1.0.0，并引入多租户服务质量能力，包括按优先级和公平性调度的流控与受控降载。该版本还提供路由器高可用与热备、安全滚动更新，以及把 prefill/decode 副本作为单一逻辑单元管理的 DisaggregatedSet。 升级存在前置条件：PD-disaggregation 指南现在要求 LeaderWorkerSet v0.11.1 或更新版本，并通过 Helm 启用 DisaggregatedSet API；llm-d 称若不满足该条件，几乎所有指南都会失效。此外，ghcr.io/llm-d/llm-d-rocm 容器镜像构建已被弃用。llm-d 称 v1.0.0 的发布目标记录在 #2619，但并非全部完成。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。