AWS 发布 vLLM-Omni 在 SageMaker AI 上的多模态部署教程
先了解这件事
2026 年 9 月 29 日,AWS Machine Learning Blog 发布两篇一手教程,介绍在 Amazon SageMaker AI 上使用 vLLM-Omni DLC 部署多模态应用。第一篇(Part 1)演示部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用,用于构建实时语音应用。第二篇(第二部分)演示从同一个 vLLM-Omni DLC 部署两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 做图像条件视频生成;文本提示词先生成 PNG,再连同运动提示词经 Amazon S3 传给视频端点,最终取回 MP4,并提供命令行与 Streamlit 界面。两篇报道均为同一时间发布,内容互补,未出现相互矛盾的数字或说法。
AI 根据报道生成 · 9 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- AWS Machine Learning Blog在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(Part 1)
AWS 发布教程,演示如何用 vLLM-Omni DLC 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。
- AWS Machine Learning Blog在 SageMaker AI 上用 vLLM-Omni 生成图像与视频(第二部分)
AWS 发布教程,演示在 SageMaker AI 上从同一个 vLLM-Omni DLC 部署两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词经 Amazon S3 传给视频端点,最终取回 MP4,并提供命令行与 Streamlit 界面。
本事件热度走势
当前热度 5·可比范围峰值 7(9月29日 15:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。