Hacker News· cat-whisperer·· 3 小时前AI 评分15
Conservation of Compute:从 GitHub 索引到模型缓存,计算如何被“省”下来
Conservation of Compute
AI 导读
一位工程师为找开发者做工具,最初想索引整个 GitHub 建向量数据库,因成本放弃,改用 ChatGPT 检索相关仓库并做出 POC,虽未赢得 hackathon 却拿到首批付费客户并进入 YC。他由此提出“conservation of search”:索引是对一类查询的缓存,算法是对方法的缓存,模型是对函数的缓存,训练是搜索、权重是缓存。
来源:Hacker News · nishantjosh.dev