跳到正文
Hacker News· ilreb·· 1 小时前AI 评分58

AWS 发布 torch-neuronx:在 Trainium 上以极少代码改动运行 PyTorch

TorchNeuron: Run PyTorch on AWS Trainium with minimal code changes

AI 导读

AWS 发布 torch-neuronx,这是 AWS Trainium 的原生 PyTorch 后端,通过 PrivateUse1 机制把 neuron 设备接入上游 PyTorch,模型移到 neuron 设备即可训练或推理,默认 eager 执行,也可用 torch.compile 编译。

来源:Hacker News · github.com