Hacker News· d0ublespeak·· 18 小时前AI 评分58
Sibyl 发布本地推理一体机:支持模型路由与 OpenAI 兼容 API
Show HN: An immutable local inference appliance with routing capability
AI 导读
Sibyl 是一个把单卡或多卡 GPU 机器变成私有 AI 服务器的本地推理一体机,目前处于 pre-alpha 阶段,可通过 USB 或网络安装,并从浏览器或终端控制台操作。
来源:Hacker News · github.com