Hacker News· pierre·· 2 小时前AI 评分58
LlamaIndex 详解 OCRia-1 推理栈：单卡 B200 上 token 生成提速近 10 倍
The Inference Stack Behind OCRia
AI 导读
LlamaIndex 在单张 B200 GPU 上把 OCRia-1 的 token 生成速度从约 285 tokens/sec 提升到约 2800 tokens/sec，接近 10 倍。
来源：Hacker News · llamaindex.ai