跳到正文
热点事件持续更新

用二手 RTX 3090 本地跑编码 Agent 的配置分享

1 篇报道1 个报道来源37 分钟前更新

先了解这件事

AI 综述

一名自称尽量省钱的业余爱好者分享:在 Windows 11 上用一张二手 RTX 3090,通过 llama.cpp 的 router 模式本地运行 Swift-1.5-Qwen3.8-27B-IQ4_XS 和 Gemma-4-31B-scotoma-2 两个模型,配合极简的 Pi agent harness 做编码。 其 Pi agent 会话运行在 Docker 容器中,只能访问一个主机文件夹,里面放的是需要处理的、多为 git 版本管理的编码项目;他允许 agent 提交 commit,但不允许推送到远程仓库。按此配置,Qwen3.8 的上下文窗口为 160k tokens,Gemma4 为 82k tokens。

AI 根据报道生成 · 18 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. Hacker News
    我的本地编码智能体:用 RTX 3090 跑 Qwen3.8-27B 的完整配置

    作者用一张二手 RTX 3090 在 Windows 11 上通过 llama.cpp 的 router 模式本地运行 Swift-1.5-Qwen3.8-27B-IQ4_XS 和 Gemma-4-31B-scotoma-2,配合极简的 Pi agent harness 做编码。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。