Hacker News· me2too·· 3 小时前AI 评分34
用 eGPU 在迷你主机上跑本地 LLM 推理:Beelink GTR7 + RTX 3090 实践
EGPU and Local LLM Inference
AI 导读
作者用 Beelink GTR7 迷你主机(Ryzen 7 7840HS、64 GB DDR5)搭配 USB4 转 PCIe 转接板外接二手 GeForce RTX 3090(24 GB),搭建本地 LLM 推理环境。
来源:Hacker News · pgaleone.eu