跳到正文
热点事件持续更新

工具支持直接在GGUF上训练LoRA并合并

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

JoakimPalm-Zen 发布 LLM Toolbox,称可直接在用于推理的同一份量化 GGUF 文件上训练 LoRA,再把适配器合并回该文件,并用同一引擎运行模型。 据其介绍,整个流程无需经过 PyTorch。该工具目前仅由作者自述,尚无第三方验证其训练效果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. Hacker News
    Show HN:直接在现有 GGUF 上训练 LoRA 并合并适配器

    作者发布一个 LLM Toolbox 工具,可直接在用于推理的同一份 GGUF 上训练 LoRA,再把适配器合并回该文件,并用同一引擎运行模型。原文称整个流程无需经过 PyTorch。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。