GLM-5自包含推理引擎原型发布

开发者 adityazero 发布了一个从零构建的 GLM-MoE-DSA 实验性推理引擎原型，其服务路径不依赖 vLLM、SGLang、Transformers 或 PyTorch，仅使用编译为 PTX 的 Vx 数值内核。 目前可用的是经过测试的 CPU 原型，另有一条明确的 NVIDIA GPU 内核/后端路径；该 GPU 路径可编译为 PTX，但实际 GPU 执行与最优性能尚未验证。 该服务默认绑定回环地址，且没有身份验证和 TLS，作者建议在对外暴露前先加装网关。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。