LLMBrake 发布按客户美元预算控制 API 调用的库
热点事件持续更新
LLMBrake 发布按客户美元预算控制 API 调用的库
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,为每个客户设置每月美元预算:接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError,阻止请求发往提供商。 该库免费并保持 MIT 许可;LLMBrake Cloud 是其上的可选付费层,提供共享计数器(HostedStore)、按客户查看支出/预算/状态并可实时修改预算的仪表盘、在 80% 和 100% 时发送 Slack/webhook 提醒,以及按客户对比 AI 成本与 Stripe 收入。 目前版本为 0.1.0,属早期阶段;通过 pip 安装的 Python 版本称即将上线 PyPI。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 07:40
LLMBrake 发布:为 OpenAI/Anthropic API 调用设置按客户美元预算上限报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- Hacker NewsLLMBrake 发布:为 OpenAI/Anthropic API 调用设置按客户美元预算上限
LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,按客户设置每月美元预算,在接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError 阻止请求发往提供商。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。