Deepgram 如何用 AWS Trainium 优化大规模语音 AI
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。
Google Research 发布三项研究,推动 AI 智能体从计算设计走向真实湿实验室实验。VERID 框架基于开源 PyLabRobot 构建实验室工作单元的语义数字孪生,提供实时 3D 状态跟踪、秒级虚拟试运行、硬件安全检查与同步视频日志,智能体可据此规划并执行移液协议。
推荐理由:Google Research 用三个项目展示 AI 智能体如何接入真实湿实验室,读者可了解闭环实验自动化的具体技术路径与安全约束。
NVIDIA 联合 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token。
Mistral 发布首个时序基础模型系列 Timestral,最大模型仅 209M 参数,在 GIFT-Eval、TIME 和 fev-bench 三个公开基准上排名第一,参数规模约为此前最优模型的三分之二。
推荐理由:Mistral 首款时序基础模型以 209M 参数在三大公开基准登顶,读者可了解其架构与部署取舍。
Google DeepMind 介绍其智能体开发平台 Google Antigravity 在抗菌肽发现中的应用,把原本分散在多个数据库的检索、结构评估与优先级排序压缩到单次会话中。
推荐理由:原文以抗菌肽发现为例,展示 Google Antigravity 如何把跨库检索、结构分析与实验设计压缩进一次会话。
NVIDIA 加入欧盟委员会在都柏林 AI in Science Summit 上启动的 AI in Science Enablers Initiative,为欧洲科研社区提供加速工具、算力、培训与创业支持。
NVIDIA 披露其在北欧的技术生态布局:瑞典初创 Lovable 与 Legora 获投资,Lovable 正用 NVIDIA Dynamo 和 Nemotron 优化开放模型推理。
Ai2 发布 HiRO-ACE 系统更新 HiRO-ACEv2,其新降尺度模型 HiROv2 可同时预测多种高分辨率气象场,并提升极端事件模拟能力。在输入粗化的 X-SHiELD 数据时,HiROv2 对目标模拟的高分辨率统计量误差在 3% 以内,包括百万分之一的稀有事件。
Google Research 在 Research@ 2026 活动上公布十项研究进展,覆盖地球科学、医疗、科研智能体与教育等方向。Google Earth AI 扩大早期访问,新增地理空间分析、行星预测引擎和 agent-to-agent API,并整合 Dataset Search 与 TimesFM。
NVIDIA 宣布对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创企业进行新投资,并承诺五年 2.5 亿美元算力投入,用于加强英国智能体安全与安保研究。NVIDIA 同时以全球联盟创始合作伙伴身份加入 Earthshot Prize,提供算力与技术专长。
微软研究院推出 StudentSim,通过公开的去标识化学习记录训练个性化 AI 学生模拟器,让 AI 导师在接触真实学生前就能获得反馈信号。该研究同时提出 StudentSimEval 评测协议,从行为保真度和指导响应性两个维度评估模拟器,覆盖国际象棋、第二语言英语写作和数学三个领域,StudentSim 均优于主流基线。StudentSim 仅为研究系统,不部署于课堂,也不旨在取代教师。
NVIDIA 在 OCP Global Summit 上通过开放 MGX 架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计,并发布第三代 MGX AI 数据中心参考设计。
推荐理由:NVIDIA 在 OCP 峰会上开放 Vera Rubin 机架与计算托盘设计,并公布 MGX 1.2 与 DSX 开源组件,读者可据此了解 AI 工厂基础设施的开放标准走向。
Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维任务变成透明的行政预算流程。
Hugging Face 作者 yuvraj sharma 与 Abubakar Abid 用 HuggingChat 中的 ML-intern 模式,在几天内做出六个模型。
推荐理由:作者用 ML-intern 在两天内做出六个模型,公开了完整提示词与每项算力成本,可迁移到自己的训练流程。
AWS 发布基于 Amazon SageMaker HyperPod 与 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
NVIDIA 团队从 Nemotron 3 出发,用监督微调、强化学习和生成-验证-精炼推理流程,让 Nemotron-3-Ultra-CC 在 IOI 2026 取得 535.4/600 分,超过 361.12 的金牌线和人类最高分 498.27;IMO 2026 系统取得 30/42 分,超过 29 分的官方金牌线。
推荐理由:NVIDIA 公开了 Nemotron 在 IOI 与 IMO 达到金牌水平的微调配方、数据集与推理流程,可复现。
微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重写 agent。
推荐理由:微软开源 Agent Lightning v1.0,给出约 3500 行代码的智能体 RL 框架与完整训练配方,可据此评估真实 harness 训练的落地成本。
Jump Trading 借助 OpenAI 扩展量化研究,通过运行时间更长的 AI 工作流整合多个数据源,并结合人工审核。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
针对多团队共享 Amazon SageMaker HyperPod 集群的治理难题,AWS 提出组织、项目、集群、工作负载四层控制模型,并说明如何通过 SageMaker Unified Studio 将已批准的 HyperPod 集群接入项目,同时保留底层 IAM、Amazon EKS 与 Slurm 控制。
阿联酋 TII 发布 Falcon-Emirati-7B,一个基于 Falcon-H1-Arabic 的方言专用模型,专注理解与生成阿联酋阿拉伯语。该模型采用 Falcon-H1 混合架构(Mamba 与 Transformer 注意力并行),训练数据来自阿联酋方言网页、关于阿联酋文化的 MSA 语料,以及受词汇表和风格规则约束的合成数据。
Google Research 用 Google Earth AI 的 Population Dynamics Foundation Model(PDFM)作为概念验证,展示行星级地理空间基础模型可直接嵌入现有流行病学工作流。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,已在 Asta 的 Generate a report 功能中作为 Fast 模式上线,同时开放模型权重和训练数据。
推荐理由:Ai2 公开了 AstaBrief 的训练数据构造、引用过滤与评测细节,可了解小模型做科研报告生成的取舍。
Google Research 发布新一代联邦学习系统,利用 TEE 提供可外部验证的隐私保证,并将计算转移到服务器端以提升训练速度、精度和设备覆盖。该系统通过公开透明日志 Rekor 发布访问策略,KMS 仅向匹配策略的 TEE 工作负载发放解密密钥,训练数据只能在 TEE 内解密处理。Gboard 已采用新系统,计算速度较此前联邦学习系统大幅提升。
亚马逊在 Amazon SageMaker AI 上推出多轮强化学习(MTRL)能力,用于微调搜索智能体,并以 Qwen3.6-27B 为例完成训练。MTRL 将智能体任务建模为多轮决策序列,通过多轮 rollout 生成数据并用策略梯度优化,支持 PPO、CISPO、IS 损失与 GRPO 等优势估计器。
NVIDIA 宣布本月推出 DGX Spark 64GB 统一内存版本,由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 等厂商发售,10 月 23 日上市,起售价 4999 美元。
推荐理由:原文给出 64GB 新配置的定价、上市时间与双机集群实测数据,可据此判断本地跑大模型的硬件门槛。
ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功经验定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步动态调整。该流程在 EnterpriseOps Gym 上做了演示,任务由系统规范、用户提示词和验证器三部分组成,需满足可行性、真实性与难度要求。
Ai2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重大升级,重新设计了开源 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。
推荐理由:原文给出 MoE 训练栈的吞吐与显存对比数据,可据此判断大规模 MoE 训练的开源方案现状。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)为产品获客漏斗做个性化内容选择,七周在线 A/B 测试中,一个人群组的最终漏斗转化率取得高个位数相对提升,另一人群组则无改善。团队按申请开始、提交、审批三个阶段各跑一个 LinUCB 模型并线性组合其 UCB 分数,以缓解单阶段优化带来的此消彼长问题。
uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调,并做提示词层面的输出优化,使其适配自身零售审核策略。
NVIDIA 提出 AI 工厂投资回报由三要素决定:每兆瓦产出能力、硬件使用寿命和 token 需求。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
NVIDIA 第 26 届研究生奖学金项目面向全球开放申请,聚焦 AI、机器学习、自动驾驶、计算机图形、机器人、医疗和高性能计算等领域,每位学生最高可获 6 万美元。
微软研究院实习生构建了一套端到端机器学习流水线,利用 L1 太阳风观测与 AE、Dst 指数预测,为美国本土 66,935 座变电站生成 30-60 分钟前的局地空间天气风险估计。
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统与 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用,Cognition 成为首个在生产负载上运行该系统的客户。
推荐理由:CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据,可据此判断智能体编码负载的算力成本走向。
Google DeepMind 发布 SynthID Bio,将 SynthID 水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:SynthID 水印从文本图像延伸到合成生物,读者可了解其在蛋白质序列与结构上的实现方式与生物安全用途。
NVIDIA 发布开源表格基础模型 Kumo Tabular,属于 Kumo Structured 模型集合,给定带标签的表格行即可在单次前向传播中预测新行标签,无需训练、调参和特征工程,覆盖分类与回归。
推荐理由:NVIDIA 开源表格基础模型,给出免训练免特征工程的做法与四个基准排名,可据此判断表格预测工作流的变化。
微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由生物世界模型和连接模型、科学工具、文献与研究者的交互式 harness 两部分组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,湿实验中排名最高的化合物产生了最大的 classical 到 basal 细胞状态转变,整个过程仅用一个周末完成。
推荐理由:微软研究院公开 Quine 的生物世界模型与实验闭环,并给出胰腺癌化合物筛选的湿实验验证结果。
AWS 发布跨账户自动化管理 Amazon Textract 适配器生命周期的方案,通过将适配器 ID 外置到 AWS Systems Manager Parameter Store,生产环境适配器引用更新无需重新部署应用,原本需数小时至数天的协调工作缩短至数秒。
AWS 发布基于 Amazon EKS、EFA 和 DeepEP 的 MoE 强化学习训练架构,吞吐量提升 40%。该方案针对 RLHF 和 GRPO 等大规模 RL 训练中 rollout 生成与策略训练的资源竞争问题,通过 DeepEP 优化 Expert Parallelism 在 EFA 上的 all-to-all 通信。
在 Amazon SageMaker HyperPod 上,用开源 RL 框架 SkyRL 对 Qwen3-VL-8B 视觉语言模型做 GRPO 后训练,在固定 64 个迷宫评测集上把解迷宫成功率从 43.75% 提升到 95% 以上。