跳到正文
热点事件持续更新

Latai 发布 22 MB 端侧 AI 运行时

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Latai 发布 22 MB 的端侧运行时引擎,让应用在本地直接运行 GGUF 模型,无需上传文件或按次付费。引擎支持约 121M 参数、35 MB 模型文件、4,096 token 上下文,并提供 Python、TypeScript、Go、Rust、Flutter、React Native 六个 SDK。 首个版本运行于 Linux x86_64、glibc 2.28 及以上;桌面与服务端 SDK 已可用,移动端两个 SDK 虽已发布,但仍在真机验证,Latai 建议在规划上线时间前先阅读其 README。 引擎以二进制形式按其自身条款分发,可免费使用,并可在自己的软件中未经修改地再分发。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hacker News
    Latai:22 MB 引擎在边缘设备本地运行 GGUF 模型,最高支持 35 MB

    Latai 推出 22 MB 的端侧运行时引擎,让应用在本地直接运行 GGUF 模型,无需上传文件或按次付费。引擎支持约 121M 参数、35 MB 模型文件、4,096 token 上下文,并提供 Python、TypeScript、Go、Rust、Flutter、React Native 六个 SDK,桌面与服务端 SDK 已可用,移动端仍在真机验证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。