AWS Neuron 2.31.0 现在可用于 NKI 0.5.0 和 UltraServer Operator

发布于: 2026年7月8日

AWS Neuron 2.31.0 现已推出，它引入了 NKI 0.5.0，新增 MX FP8 scale dtype 支持、计算操作中的张量间接寻址（以减少索引访问模式中的指令数），以及新 NkiTensor 视图 API（用于实现零成本的张量布局转换）。此外，该版本的公共测试版中推出了适用于 Amazon EKS 的 Neuron UltraServer Operator，可自动执行 UltraServer 发现、工作负载分配并为 Amazon EKS 上的 Trainium UltraServer 工作负载生成资源申请。

Neuron Compiler 包含经过重新设计的代码生成后端，现已在 Trn2 和 Trn3 上默认启用，从而提升性能。Neuron Runtime 新增对连续共享暂存缓冲区的支持，使您无需手动设置暂存缓冲区页面大小，即可轻松配置设备。NKI Library 新增 14 个实验性内核，涵盖 MoE 训练集合通信、可变形注意力、DeepSeek MLA 投影和环形注意力，并附带了 PyTorch 参考实现。Neuron Explorer 新增系统跟踪查看器的源代码链接，并更新了默认分组以提升工作负载调试效率。

要开始使用，请参阅以下资源：

• AWS Neuron 2.31.0 新增功能

• AWS Neuron 2.31.0 发行说明

• Neuron Kernel 接口（NKI）文档

• Neuron Agentic Development

• AWS Neuron 开发人员指南

AWS Neuron 已在提供 Amazon EC2 Trn1、Trn2、Trn3、Inf2 和 Inf1 实例的所有 AWS 区域推出。有关区域可用性的更多信息，请参阅 AWS 区域表。