跳到正文
热点事件持续更新

Hugging Face 与 AWS 推出 Trainium 的 PyTorch 原生后端

3 篇报道3 个报道来源35 分钟前更新

先了解这件事

AI 综述

Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,使 Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Trainium 当作普通设备使用。该后端自 2026 年 10 月 20 日起进入公测,可通过 pip install torch-neuronx 安装;Hugging Face 建议 Neuron 用户今后直接使用这些库,而不再经由 Optimum Neuron。Transformers 内置的异步权重加载暂不支持 Neuron,需设置 HF_DEACTIVATE_ASYNC_LOAD=1 关闭。 AWS 随后将 TorchNeuron 描述为自家发布的开发工具,称用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在 Trainium 上,无需重写代码;AWS 还称将向 PyTorch 主项目贡献代码,推动 PyTorch 不再默认以 Nvidia 为中心。 据 Hacker News 报道,torch-neuronx 通过 PrivateUse1 机制把 neuron 设备接入上游 PyTorch,模型移到 neuron 设备即可训练或推理,默认 eager 执行,也可用 torch.compile 编译;使用需 Trn2 或 Trn3 实例及 Python 3.12、3.13 或 3.14,Trn3 支持仍为 Beta。

AI 根据报道生成 · 26 分钟前更新

事件进展

2 个进展

  1. 10月20日 04:09 · 2 篇报道
    AWS发布TorchNeuron开发工具
    TechCrunch · AI:AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium
  2. 10月19日 08:00 · 1 篇报道
    Hugging Face 集成 TorchNeuron 原生后端
    Hugging Face Blog:Hugging Face 推出 TorchNeuron,在 AWS Trainium 上原生运行 HF 模型

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hacker News
    AWS 发布 torch-neuronx:在 Trainium 上以极少代码改动运行 PyTorch

    AWS 发布 torch-neuronx,这是 AWS Trainium 的原生 PyTorch 后端,通过 PrivateUse1 机制把 neuron 设备接入上游 PyTorch,模型移到 neuron 设备即可训练或推理,默认 eager 执行,也可用 torch.compile 编译。

  2. TechCrunch · AI
    AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium

    AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在自研芯片 Trainium 上,无需重写代码。

10月19日
  1. Hugging Face Blog
    Hugging Face 推出 TorchNeuron,在 AWS Trainium 上原生运行 HF 模型

    Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Trainium 当作普通设备使用。

本事件热度走势

可比范围当前
24
可比范围峰值
2410月20日 08:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。