跳到正文
热点事件持续更新

LLMBrake 发布按客户美元预算控制 API 调用的库

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,为每个客户设置每月美元预算:接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError,阻止请求发往提供商。 该库免费并保持 MIT 许可;LLMBrake Cloud 是其上的可选付费层,提供共享计数器(HostedStore)、按客户查看支出/预算/状态并可实时修改预算的仪表盘、在 80% 和 100% 时发送 Slack/webhook 提醒,以及按客户对比 AI 成本与 Stripe 收入。 目前版本为 0.1.0,属早期阶段;通过 pip 安装的 Python 版本称即将上线 PyPI。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. Hacker News
    LLMBrake 发布:为 OpenAI/Anthropic API 调用设置按客户美元预算上限

    LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,按客户设置每月美元预算,在接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError 阻止请求发往提供商。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。