跳到正文
热点事件持续更新

Cartesia发布H-Net扩展性研究:字节级分层网络省算力

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Cartesia 公布分层网络 H-Net 的缩放规律研究,用字节级动态分块替代 BPE 分词器。其博客称,受控对比中 1-stage H-Net 在验证损失上带来 1.28 倍算力效率,下游评测约 2 倍,代码语言中位数 2.04 倍、训练集外语言中位数 3.10 倍。 Cartesia 表示,研究使用的是改进版 H-Net,计划发布该版本,并逐步向社区开放部分架构;上述效率数字来自其自述的对比结果。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Hacker News
    Cartesia 发布 H-Net 缩放研究:字节级分层网络比 BPE 最高省 10 倍算力

    Cartesia 在博客中公布分层网络 H-Net 的缩放规律研究,用字节级动态分块替代 BPE 分词器。受控对比显示,1-stage H-Net 在验证损失上带来 1.28 倍算力效率,下游评测约 2 倍,代码语言中位数 2.04 倍、训练集外语言中位数 3.10 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。