跳到正文
热点事件持续更新

RunInfra 上线 Ornith 1.5 122B 推理 API

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

RunInfra 已将 Ornith 1.5 122B 模型以 ornith-ai/Ornith-1.5-122B 上线推理 API,按每 100 万 tokens 计费:输入 0.20 美元、缓存输入 0.02 美元、输出 0.80 美元。 RunInfra 称该服务输出速度为 302 tokens/s。前缀缓存存放在服务 GPU 上,内存压力下会被逐出;缓存命中为尽力而为,在逐出或服务重启前不保证命中。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. Hacker News
    RunInfra 上线 Ornith 1.5 122B 推理 API,输出速度 302 tokens/s

    RunInfra 将 Ornith 1.5 122B 以 ornith-ai/Ornith-1.5-122B 上线推理 API,输入 $0.20、输出 $0.80 每 1M tokens,缓存输入 $0.02。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。