跳到正文
Hacker News· sidsri1234·· 4 小时前AI 评分42

Show HN:用 Redis、BullMQ 和预算熔断开关构建的弹性 AI Worker 队列

Show HN: Resilient AI Worker Queue with Redis, BullMQ, and Budget Kill Switches

AI 导读

一个名为 Resilient AI Worker Kit 的生产模板开源发布,用 Redis 和 BullMQ 构建高吞吐、容错的 AI 智能体队列。它支持在 OpenAI 主模型出错或超时时自动切换到 Anthropic、Groq、Ollama 等备用模型,并通过 Redis 实时追踪 token 消耗,在超出每日或每月预算前强制终止任务。社区版以 MIT 许可证免费开源,企业版售价 $39。

来源:Hacker News · github.com