Hacker News· archons·· 2 小时前AI 评分71
CTGT 研究:确定性推理没能让策略摄取流水线变得确定
Deterministic LLM Inference Did Not Make Our Pipeline Deterministic
AI 导读
CTGT Engineering 在 Qwen3.8-27B 上启用 SGLang 的确定性推理后,800 次请求全部与单请求对照一致,但同一份银行政策手册跑四次流水线却提交了 32、31、33、33 条不同义务,其中一次漏掉了升级到合规负责人的规则。
来源:Hacker News · ctgt.ai