跳到正文
Hacker News· speckx·· 3 小时前AI 评分75

如何像 Jev 一样构建决策模型

How to Build a Decision Model Like Jev

AI 导读

作者以 Jev 的 /v1/systemone 接口为参照,讲解如何把 LLM 改造成输出概率分布的决策模型。文中给出用 Hugging Face transformers serve 零样本起步的命令,并说明保留 <opt_k> 选项 token、按题型分别做温度校准、用树形批处理把多问题打包成单序列等做法。

来源:Hacker News · fratepietro.com