跳到正文
热点事件持续更新

Leviathan 预告 Windows 本地 LLM 推理应用

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Leviathan 预告将推出一款 Windows 本地大模型推理应用:把 .gguf 模型转换为 .lev 文件后,直接加载进 NVIDIA 显卡显存运行,无需服务器、云账号、API key 或 Python 环境。官方称发布时间为“即将到来”(Soon to come),尚未给出具体日期。 运行条件为 Windows 系统、GTX 16 系列或 RTX 20 系列及更新的 NVIDIA 显卡,以及提供 CUDA 13.0 或更高版本的 NVIDIA 驱动。没有 NVIDIA 显卡的用户,Leviathan 称仍可作为前端,连接在别处运行的模型服务器。

AI 根据报道生成 · 15 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hacker News
    Leviathan LLM Inference:在显卡上本地运行大模型的推理应用

    Leviathan 是一款 Windows 本地推理应用,可将 .gguf 模型转换为 .lev 文件后直接加载进 NVIDIA 显卡显存运行,无需服务器、云账号、API key 或 Python 环境。

本事件热度走势

可比范围当前
7
可比范围峰值
1010月19日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。