SageMaker 上 Kokoro 逐句流式语音方案

AWS 在一篇技术文章中介绍，把 8200 万参数的 Kokoro-82M 文本转语音模型部署在 Amazon SageMaker AI 的实时端点上，按句流式合成语音，让 AI 语音智能体在第一句生成后就开始播放音频，不必等整段回复完成。模型运行在单台 ml.g5.xlarge GPU 实例的自定义容器中，容器同时提供 POST /invocations 和 WebSocket 双向流两条路径。 文章提示，示例容器固定使用较旧版本的 PyTorch，存在已知安全公告 PYSEC-2026-2286（在 torch 2.10.0 中修复），在用于概念验证之外的场景前应检查并升级该版本。文章还称，如果前端已有可用的文本 SSE 管道，在 SSE 事件中放入 base64 编码音频是务实选择。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。