Hacker News· thesnarkitecht·· 9 小时前AI 评分27
Ask HN:开发者能在本地以可用速度运行前沿 AI 模型吗?
Ask HN: Can anyone run frontier AI models at usable speeds?
AI 导读
有开发者反映,用 EXO labs 的 hermes 在本地运行 Kimi K2.6 时,获取一次响应需要约一分半钟,速度仍不够快。该开发者因此发问:是否存在开发者可购买、能真正抵消云端账单的硬件。
来源:Hacker News · news.ycombinator.com