Octave 基于 Amazon Bedrock 搭建多租户 AI 平台

Octave 在 Amazon Bedrock 上使用 Cohere Embed v4 构建多租户 AI 基础平台，称其将每个用例的部署时间缩短 50%。该平台为 Reliance 的质量管理系统嵌入 2 亿级文档，并通过 AgentCore Gateway 隔离执行、调用 Anthropic Claude 模型，Guardrails 在输入和输出两端做内容过滤。 首个落地功能是投诉分诊助手，已在生产环境运行三个月，上述数字即来自该时段。该助手只提供上下文与先例，最终判定仍由质量处理人员做出。已完成的分诊简报缓存在 Amazon DynamoDB 中，并按环境设置 TTL，重复查看不产生额外成本。Octave 同时提示，模型与功能可用性因区域而异并会随时间变化。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。