跳到正文
热点事件持续更新

研究称非英语语言使用AI模型成本更高

1 篇报道1 个报道来源56 分钟前更新

先了解这件事

AI 综述

AI语言公平研究联盟称,AI模型处理不同语言所需的 token 数量差异显著,形成隐性的“分词器税”。在互联网最流行的 20 种语言中,最贵的语言所用 token 是最便宜语言的 1.5 到 5 倍;扩展到 200 种语言后,单个模型的 token 成本差距扩大到 17 倍。 该结论来自该联盟上月发布的研究,意味着使用非英语语言调用 AI 模型时,用户可能为同样的内容支付更多 token 费用。

AI 根据报道生成 · 52 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hacker News
    研究称非英语语言使用 AI 模型成本更高,存在分词器税

    AI 语言公平研究联盟上月发布的研究发现,AI 模型处理部分语言所需的 token 远多于英语,形成隐性的分词器税。在互联网最流行的 20 种语言中,最贵的语言所用 token 是最便宜语言的 1.5 到 5 倍;扩展到 200 种语言后,单个模型的 token 成本差距扩大到 17 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。