Hacker News· adityazero·· 2 小时前AI 评分22
自包含 GLM-5 推理栈:仅用编译为 PTX 的 Vx 内核
Self-contained GLM-5 serving stack: Just Vx kernels compiled to PTX
AI 导读
一个从零构建的 GLM-MoE-DSA 实验性推理引擎仅用编译为 PTX 的 Vx 数值内核,服务路径不依赖 vLLM、SGLang、Transformers 或 PyTorch。
来源:Hacker News · github.com