Inferact 开源 TPU v7 推理 megakernel 集合
热点事件持续更新
Inferact 开源 TPU v7 推理 megakernel 集合
1 篇报道1 个报道来源21 小时前更新
先了解这件事
AI 综述
Inferact 发布了面向 TPU v7 的 megakernel 集合 inferact/tpu-megakernels，并随实现附上复现结果的脚本。其 Kimi K3 实现在投机解码下达到 700 tokens/s 以上，对比 GB200 的 452 tokens/s。 Inferact 称，该平台基于开源 vLLM 构建，客户无需改变现有服务方式即可采用。
AI 根据报道生成 · 21 小时前更新
最新进展11月8日 04:40
Inferact 开源 TPU v7 megakernel，Kimi K3 解码超 700 tokens/s报道时间线
沿着报道，了解事件的不同侧面。
11月8日
- Hacker NewsInferact 开源 TPU v7 megakernel，Kimi K3 解码超 700 tokens/s
Inferact 发布 inferact/tpu-megakernels，一组面向 TPU v7 的 megakernel，其 Kimi K3 实现在投机解码下达到 700 tokens/s 以上，对比 GB200 的 452 tokens/s。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 1011月8日 05:00
- 近 24 小时变化
- –
02.557.510
06:0012:0018:0011月9日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。