Hacker News· michaelrickynea·2026-10-19 03:38· 16 小时前AI 评分48Leviathan LLM Inference:在显卡上本地运行大模型的推理应用Leviathan LLM InferenceAI 导读Leviathan 是一款 Windows 本地推理应用,可将 .gguf 模型转换为 .lev 文件后直接加载进 NVIDIA 显卡显存运行,无需服务器、云账号、API key 或 Python 环境。来源:Hacker News · github.com端侧 AI开源生态部署工程产品更新#产品更新#端侧#部署/工程#开源/仓库查看事件全部后续