Hacker News· speckx·· 3 小时前AI 评分75
如何像 Jev 一样构建决策模型
How to Build a Decision Model Like Jev
AI 导读
作者以 Jev 的 /v1/systemone 接口为参照,讲解如何把 LLM 改造成输出概率分布的决策模型。文中给出用 Hugging Face transformers serve 零样本起步的命令,并说明保留 <opt_k> 选项 token、按题型分别做温度校准、用树形批处理把多问题打包成单序列等做法。
来源:Hacker News · fratepietro.com