跳到正文
热点事件持续更新

SDCGuard 发布:检查 vLLM KV 校验覆盖

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Hari Krishna Kancharla 发布 SDCGuard,用于按请求查看 vLLM 服务器自身的完整性校验覆盖了哪些内容,以便在升级推理引擎前发现 HTTP 200 响应背后的错误答案。该工具无需 GPU,只需 Python 3.10 或更新版本。 目前 SDCGuard 只支持一种 vLLM 配置:校验和 PR 的两个固定提交,在单张 H100 上通过 NIXL 进行 prefill 和 decode,模型为 Qwen3-0.6B;录制新运行仍需手工准备该环境。0.4.0 版已发布到 PyPI,可通过 pip install sdcguard 安装。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. Hacker News
    SDCGuard:按请求检查 vLLM KV 校验和覆盖范围

    SDCGuard 是一款按请求检查 vLLM KV 校验和覆盖范围的工具,用于在升级推理引擎前发现 HTTP 200 背后的错误答案。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。