跳到正文
Hacker News· llmbrake·· 1 小时前AI 评分55

LLMBrake 发布:为 OpenAI/Anthropic API 调用设置按客户美元预算上限

Show HN: LLMBrake – Per-customer dollar caps for OpenAI/Anthropic API calls

AI 导读

LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,按客户设置每月美元预算,在接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError 阻止请求发往提供商。

来源:Hacker News · github.com