跳到正文
热点事件持续更新

FastAPI 流并发限流库发布

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

agustin18 发布 fastapi-stream-lease,用 Redis 原子 Lua 脚本限制 FastAPI/Starlette 多 worker 间同时活跃的 SSE、LLM token 流和 WebSocket 会话,而不是按每分钟请求数限流。它支持按用户、全局或两者组合设限,超限连接在开始流式传输前即返回 HTTP 429。 使用需 Python 3.10+、Redis 5.0+ 和 redis-py 4.6.0+;核心包只依赖 redis,HTTP 辅助功能由 fastapi extra 提供。max_per_user=0 或 max_global=0 会关闭对应限制,关闭全局跟踪时无法获取全局计数。项目采用 MIT 许可。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hacker News
    FastAPI-stream-lease:用 Redis 限制并发 SSE/LLM 流而非 req/min

    FastAPI-stream-lease 通过 Redis 原子 Lua 脚本限制 FastAPI/Starlette 多 worker 间同时活跃的 SSE、LLM token 流和 WebSocket 会话,支持按用户、全局或两者组合设限,超限连接在开始流式传输前即返回 HTTP 429。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。