Latai 发布 22 MB 端侧 AI 运行时
热点事件持续更新
Latai 发布 22 MB 端侧 AI 运行时
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Latai 发布 22 MB 的端侧运行时引擎,让应用在本地直接运行 GGUF 模型,无需上传文件或按次付费。引擎支持约 121M 参数、35 MB 模型文件、4,096 token 上下文,并提供 Python、TypeScript、Go、Rust、Flutter、React Native 六个 SDK。 首个版本运行于 Linux x86_64、glibc 2.28 及以上;桌面与服务端 SDK 已可用,移动端两个 SDK 虽已发布,但仍在真机验证,Latai 建议在规划上线时间前先阅读其 README。 引擎以二进制形式按其自身条款分发,可免费使用,并可在自己的软件中未经修改地再分发。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 11:08
Latai:22 MB 引擎在边缘设备本地运行 GGUF 模型,最高支持 35 MB报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- Hacker NewsLatai:22 MB 引擎在边缘设备本地运行 GGUF 模型,最高支持 35 MB
Latai 推出 22 MB 的端侧运行时引擎,让应用在本地直接运行 GGUF 模型,无需上传文件或按次付费。引擎支持约 121M 参数、35 MB 模型文件、4,096 token 上下文,并提供 Python、TypeScript、Go、Rust、Flutter、React Native 六个 SDK,桌面与服务端 SDK 已可用,移动端仍在真机验证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。