AWS Machine Learning Blog· Ashvin Nihalani·· 4 天前AI 评分34
在 Amazon EKS 上用 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 发布基于 Amazon EKS、EFA 和 DeepEP 的 MoE 强化学习训练架构，吞吐量提升 40%。该方案针对 RLHF 和 GRPO 等大规模 RL 训练中 rollout 生成与策略训练的资源竞争问题，通过 DeepEP 优化 Expert Parallelism 在 EFA 上的 all-to-all 通信。
来源：AWS Machine Learning Blog · aws.amazon.com