Deepgram 如何用 AWS Trainium 优化大规模语音 AI

Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2，用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本，每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。