Hugging Face 与 AWS 推出 Trainium 的 PyTorch 原生后端
先了解这件事
Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,使 Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Trainium 当作普通设备使用。该后端自 2026 年 10 月 20 日起进入公测,可通过 pip install torch-neuronx 安装;Hugging Face 建议 Neuron 用户今后直接使用这些库,而不再经由 Optimum Neuron。Transformers 内置的异步权重加载暂不支持 Neuron,需设置 HF_DEACTIVATE_ASYNC_LOAD=1 关闭。 AWS 随后将 TorchNeuron 描述为自家发布的开发工具,称用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在 Trainium 上,无需重写代码;AWS 还称将向 PyTorch 主项目贡献代码,推动 PyTorch 不再默认以 Nvidia 为中心。 据 Hacker News 报道,torch-neuronx 通过 PrivateUse1 机制把 neuron 设备接入上游 PyTorch,模型移到 neuron 设备即可训练或推理,默认 eager 执行,也可用 torch.compile 编译;使用需 Trn2 或 Trn3 实例及 Python 3.12、3.13 或 3.14,Trn3 支持仍为 Beta。
AI 根据报道生成 · 26 分钟前更新
事件进展
2 个进展
- 10月20日 04:09 · 2 篇报道AWS发布TorchNeuron开发工具TechCrunch · AI:AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium
- 10月19日 08:00 · 1 篇报道Hugging Face 集成 TorchNeuron 原生后端Hugging Face Blog:Hugging Face 推出 TorchNeuron,在 AWS Trainium 上原生运行 HF 模型
报道时间线
沿着报道,了解事件的不同侧面。
- Hacker NewsAWS 发布 torch-neuronx:在 Trainium 上以极少代码改动运行 PyTorch
AWS 发布 torch-neuronx,这是 AWS Trainium 的原生 PyTorch 后端,通过 PrivateUse1 机制把 neuron 设备接入上游 PyTorch,模型移到 neuron 设备即可训练或推理,默认 eager 执行,也可用 torch.compile 编译。
- TechCrunch · AIAWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium
AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在自研芯片 Trainium 上,无需重写代码。
- Hugging Face BlogHugging Face 推出 TorchNeuron,在 AWS Trainium 上原生运行 HF 模型
Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Trainium 当作普通设备使用。
本事件热度走势
- 可比范围当前
- 24
- 可比范围峰值
- 2410月20日 08:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。