Hacker News· dex0shubham·· 2 小时前AI 评分58
Pith 发布 LLM 输出 token 压缩代理，达不到基线就拒绝启用
Show HN: Pith – a proxy that cuts LLM output tokens, and refuses when it can't
AI 导读
Pith 是一个代理，通过回放采样请求、用 judge 模型对比基线答案来压缩 LLM 输出 token，只有候选配置达到基线自洽水平才固定启用，否则拒绝并说明原因。
来源：Hacker News · github.com