跳到正文
Hacker News· JoakimPalm-Zen·· 3 小时前AI 评分58

Show HN:直接在现有 GGUF 上训练 LoRA 并合并适配器

Show HN: Train LoRA directly on the GGUF you have, then merge the adapter

AI 导读

作者发布一个 LLM Toolbox 工具,可直接在用于推理的同一份 GGUF 上训练 LoRA,再把适配器合并回该文件,并用同一引擎运行模型。原文称整个流程无需经过 PyTorch。

来源:Hacker News · reddit.com