用二手 RTX 3090 本地跑编码 Agent 的配置分享
热点事件持续更新
用二手 RTX 3090 本地跑编码 Agent 的配置分享
1 篇报道1 个报道来源37 分钟前更新
先了解这件事
AI 综述
一名自称尽量省钱的业余爱好者分享:在 Windows 11 上用一张二手 RTX 3090,通过 llama.cpp 的 router 模式本地运行 Swift-1.5-Qwen3.8-27B-IQ4_XS 和 Gemma-4-31B-scotoma-2 两个模型,配合极简的 Pi agent harness 做编码。 其 Pi agent 会话运行在 Docker 容器中,只能访问一个主机文件夹,里面放的是需要处理的、多为 git 版本管理的编码项目;他允许 agent 提交 commit,但不允许推送到远程仓库。按此配置,Qwen3.8 的上下文窗口为 160k tokens,Gemma4 为 82k tokens。
AI 根据报道生成 · 18 分钟前更新
最新进展11月9日 03:12
我的本地编码智能体:用 RTX 3090 跑 Qwen3.8-27B 的完整配置报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- Hacker News我的本地编码智能体:用 RTX 3090 跑 Qwen3.8-27B 的完整配置
作者用一张二手 RTX 3090 在 Windows 11 上通过 llama.cpp 的 router 模式本地运行 Swift-1.5-Qwen3.8-27B-IQ4_XS 和 Gemma-4-31B-scotoma-2,配合极简的 Pi agent harness 做编码。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。