AWS发布在EKS上用Ray Train DLC进行分布式训练的教程

AWS 在 Machine Learning Blog 发布教程，讲解如何用 Ray Train 深度学习容器镜像（train-ml-cuda-v1.1）在 Amazon EKS 上结合 EFA 网络，微调 Qwen2.5-1.5B，采用 PyTorch FSDP 在两台 g6.12xlarge 实例的八块 NVIDIA L4 GPU 上进行多节点分布式训练。 该容器镜像预装 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 网络栈，发布于 Amazon ECR Public 并持续维护，用于简化 PyTorch 分布式训练的部署。 教程示例运行需在至少一个可用区提供 g6.12xlarge 的区域申请 96 个 G 系列 On-Demand vCPU 配额，GPU 实例运行期间成本约每小时 9.50 美元，涵盖两台实例、EKS 控制平面和 NAT 网关。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。