跳到正文
Hacker News· d0ublespeak·· 18 小时前AI 评分58

Sibyl 发布本地推理一体机:支持模型路由与 OpenAI 兼容 API

Show HN: An immutable local inference appliance with routing capability

AI 导读

Sibyl 是一个把单卡或多卡 GPU 机器变成私有 AI 服务器的本地推理一体机,目前处于 pre-alpha 阶段,可通过 USB 或网络安装,并从浏览器或终端控制台操作。

来源:Hacker News · github.com