跳到正文
热点事件持续更新

eBPF接管GPU服务器TCP路径实测未胜epoll

1 篇报道1 个报道来源59 分钟前更新

先了解这件事

AI 综述

开发者 thatslast 发布 bpf-gpu-server 技术复盘:用 eBPF 和 io_uring 把 GPU 服务器的 TCP 请求循环搬进内核,让用户线程完全不碰请求。在 Linux 7.3 等较新内核上,可睡眠的 BPF 程序能自行提交并完成 io_uring 操作,无需定制内核模块。 但实测中,该方案的 CPU 占用与延迟均未优于高效的 epoll 服务器。测试条件有限:单台 24 逻辑 CPU 主机、一块 RTX 5090、单个远程客户端、小模型、固定形状请求、二进制协议且无 TLS。 作者称 bpf-gpu-server 仍作为开放研究原型提供,用于在标准 Linux 上围绕可复用 CUDA 图实现内核持有的 TCP 路径。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月18日
  1. Hacker News
    把 GPU 服务器的请求循环搬进内核,能省 CPU 吗?bpf-gpu-server 实测

    bpf-gpu-server 用 eBPF 和 io_uring 接管 GPU 服务器的 TCP 路径,让用户线程完全不碰请求,但实测 CPU 与延迟均未优于高效的 epoll 服务器。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。