跳到正文
Hacker News· adityazero·· 2 小时前AI 评分22

自包含 GLM-5 推理栈:仅用编译为 PTX 的 Vx 内核

Self-contained GLM-5 serving stack: Just Vx kernels compiled to PTX

AI 导读

一个从零构建的 GLM-MoE-DSA 实验性推理引擎仅用编译为 PTX 的 Vx 数值内核,服务路径不依赖 vLLM、SGLang、Transformers 或 PyTorch。

来源:Hacker News · github.com