在 35 美元的 FPGA 上运行语言模型

作者在 iCE40UP5K 的 iCESugar 开发板上用纯硬件设计实现了一个 1.07M 参数的 Transformer 语言模型，生成速度约 10 tokens/s。