Hacker News· 1solomoniw·· 2 小时前AI 评分36
Show HN:在 RunPod 上部署 vLLM,每个计费步骤都设确认关卡
Show HN: Deploy vLLM on RunPod with confirmation gates on every billable step
AI 导读
一款 Python CLI 工具 runpod-vllm 可在 RunPod GPU 上部署和拆除 OpenAI 兼容的 vLLM 服务器,创建与销毁等计费操作均需显式确认。
来源:Hacker News · github.com