跳到正文
Hacker News· 1solomoniw·· 2 小时前AI 评分36

Show HN:在 RunPod 上部署 vLLM,每个计费步骤都设确认关卡

Show HN: Deploy vLLM on RunPod with confirmation gates on every billable step

AI 导读

一款 Python CLI 工具 runpod-vllm 可在 RunPod GPU 上部署和拆除 OpenAI 兼容的 vLLM 服务器,创建与销毁等计费操作均需显式确认。

来源:Hacker News · github.com