跳到正文
原文
AWS Machine Learning Blog· Alex Nails·· 7 天前AI 评分58

AWS 与 RadixArk 发布 SGLang-Neuron,可在 Trainium 上部署前沿模型

Deploy frontier AI models on AWS Trainium with SGLang-Neuron

AI 导读

Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。

来源:AWS Machine Learning Blog · aws.amazon.com