FastAPI 流并发限流库发布
热点事件持续更新
FastAPI 流并发限流库发布
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
agustin18 发布 fastapi-stream-lease,用 Redis 原子 Lua 脚本限制 FastAPI/Starlette 多 worker 间同时活跃的 SSE、LLM token 流和 WebSocket 会话,而不是按每分钟请求数限流。它支持按用户、全局或两者组合设限,超限连接在开始流式传输前即返回 HTTP 429。 使用需 Python 3.10+、Redis 5.0+ 和 redis-py 4.6.0+;核心包只依赖 redis,HTTP 辅助功能由 fastapi extra 提供。max_per_user=0 或 max_global=0 会关闭对应限制,关闭全局跟踪时无法获取全局计数。项目采用 MIT 许可。
AI 根据报道生成 · 56 分钟前更新
最新进展10月20日 22:48
FastAPI-stream-lease:用 Redis 限制并发 SSE/LLM 流而非 req/min报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- Hacker NewsFastAPI-stream-lease:用 Redis 限制并发 SSE/LLM 流而非 req/min
FastAPI-stream-lease 通过 Redis 原子 Lua 脚本限制 FastAPI/Starlette 多 worker 间同时活跃的 SSE、LLM token 流和 WebSocket 会话,支持按用户、全局或两者组合设限,超限连接在开始流式传输前即返回 HTTP 429。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。