如何选择 LLM 推理优化技术：一棵六问决策树

文章用六个分支问题构建决策树，把 LLM 推理优化技术匹配到工作负载的真实瓶颈：模型装不下时先考虑量化、结构化稀疏与蒸馏，请求共享相同前缀时用 prefix caching，长短输出并发混杂时用 continuous batching，KV cache 碎片限制 batch size 时用 PagedAttention。