跳到正文
Hacker News· me2too·· 3 小时前AI 评分34

用 eGPU 在迷你主机上跑本地 LLM 推理:Beelink GTR7 + RTX 3090 实践

EGPU and Local LLM Inference

AI 导读

作者用 Beelink GTR7 迷你主机(Ryzen 7 7840HS、64 GB DDR5)搭配 USB4 转 PCIe 转接板外接二手 GeForce RTX 3090(24 GB),搭建本地 LLM 推理环境。

来源:Hacker News · pgaleone.eu