Hacker News· llmbrake·· 1 小时前AI 评分55
LLMBrake 发布:为 OpenAI/Anthropic API 调用设置按客户美元预算上限
Show HN: LLMBrake – Per-customer dollar caps for OpenAI/Anthropic API calls
AI 导读
LLMBrake 发布 0.1.0 版本,这是一个 TypeScript 库,可包裹 OpenAI 兼容的 chat.completions.create 调用,按客户设置每月美元预算,在接近预算时切换到更便宜的模型,达到预算时抛出 BudgetExceededError 阻止请求发往提供商。
来源:Hacker News · github.com