Amazon SageMaker HyperPod 推出增强基础设施可观测性
Amazon SageMaker HyperPod 新增增强可观测性能力,可诊断 EKS 和 Slurm 上的 GPU 训练问题。
Amazon SageMaker HyperPod 新增增强可观测性能力,可诊断 EKS 和 Slurm 上的 GPU 训练问题。
Amazon SageMaker AI Serverless Model Customization 现已支持全量微调(FFT),用户无需配置 GPU 或分布式训练即可获得更高质量的定制模型。
Amazon SageMaker HyperPod 新增工作负载恢复与基础设施检查能力,包含 MultiNodeTrainingValidation 深度健康检查、HyperPod Kubernetes Resource Monitoring Agent 和 Hung job detection 三项功能。
Exa 在 AWS Inferentia2 与 Trainium2 上把嵌入吞吐提升约 1.5 倍(50%),用于支撑数十亿级网页文档的语义索引。优化包括权重布局调整、autocast 降精度(输出与参考的余弦相似度达 0.999)、NKI 注意力 kernel,以及自研 weight-stationary 融合 SwiGLU MLP kernel 消除 HBM 读写停顿。
AWS Quick 在 DC 用户组活动上展示其从 BI 可视化工具演进为统一 AI 助手,可把自然语言问题转为多步可复用动作,并内置 Salesforce、Slack、Google Drive、Microsoft 365 连接器。
Amazon SageMaker AI 新增 AI 数据准备能力,包含自动标注、人工审核、合成数据生成、数据质量评估和数据转换五项,可通过 Python SDK API 和 AI-ML agent skill 在 notebook 或 IDE 中调用。
Aionic Labs 开发的开源时间序列语言模型 OpenTSLM 已在 Amazon SageMaker JumpStart 上线,可部署在用户自己的 AWS 环境中。该模型将设备传感器等数值测量与维护记录、市场新闻等文本上下文结合,识别近期数据中的潜在问题。Nexthink 已将其用于个人 IT 智能体 Spark,从设备遥测生成状态摘要、建议操作和预期结果。
微软研究播客《The Shape of Things to Come》中,Doug Burger 与 Eric Horvitz、Eric Topol、Ava Amini 探讨 AI 在医疗健康领域的未来。讨论覆盖 AI 辅助诊断、医学影像、全患者模型、虚拟细胞与生物基础模型,并分析研究成果为何难以快速惠及患者,以及更好生物数据与真实世界验证的必要性。
NVIDIA 在 SC26 大会上发布 Nemotron for Science,将 Nemotron 3.5 Super VL 开放模型与新的开放化学数据集及后训练配方结合,可在 DGX Spark、工作站或自有超算上本地运行。
NVIDIA 在 SC26 推出 DGX Spark HPC 开发者套件,由四台 DGX Spark 组成环形直连集群,无需网络交换机,合计 512GB 内存和 16TB NVMe 存储。
推荐理由:原文给出四节点集群的规格与科研场景实测,读者可据此判断桌面级多节点算力能替代哪些排队等待的集群任务。
NVIDIA 在 SC26 上发布 Vera Rubin 平台的新 GPU Rubin HPC,用于加速科学、工程与分析工作流中的仿真和数据处理。该 GPU 单卡 CUDA 核心数超过 50,000,并具备稀疏数据加速能力和第七代 NVLink 互联,设计上让数据搬运与计算同步扩展。NVIDIA 称其预计 2028 年上市。
NVIDIA 在 SC26 上纪念 CUDA 发布 20 周年,目前已有超过 1100 万开发者在 CUDA 上构建应用。CUDA 于 2006 年 11 月在 SC06 发布,将 GPU 加速从图形扩展到科学与仿真领域,曾支撑 AlexNet 训练、AlphaFold 2 的 GPU 执行以及 HIV 衣壳结构解析等工作。NVIDIA 同时提供 1000+ CUDA-X 库。
NVIDIA 扩展 CUDA-X 库,新增 cuPhoton、cuPotential 和 cuSpa 等库,让 AI 智能体协助研究人员加速从天体物理到单细胞生物学的数据分析。
NVIDIA Vera Rubin 平台首次提交 MLPerf 结果,在 MLPerf Training v6.1 的全部基准上均有成绩,Vera Rubin NVL72 每 GPU 性能最高达 GB300 NVL72 的 2 倍。
推荐理由:原文给出 Vera Rubin 在 MLPerf Training 与 Endpoints 的具体成绩和规模数据,读者可据此判断新一代平台在训练与智能体推理上的代际提升幅度。
GS Caltex 用 Amazon SageMaker Canvas 和 SageMaker Pipelines 打通工艺工程师建模与生产工作流,ML 工程师部署模型的时间从约一周缩短到几小时。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的容量提供者运行语音转文字推理,单 GPU 跑一个模型、规模达数千实例。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并把身份与组织标签写入 CUR 2.0 和 Cost Explorer。
Amazon SageMaker HyperPod 推出 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个层级把线上推理的输入输出记录到 S3。
IBM 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,基于 Granite 4.1 base 训练,可读写 LLMON 标记文本。
推荐理由:IBM 团队解释了 LLMON 如何用保留特殊 token 标记指令与数据边界,并给出提示注入攻击成功率下降的基准对比。
Microsoft Research Focus 第98期由 Anson Ho 主持,介绍 AI 通用翻译进展、31 年 KLS 猜想被解决,以及让 AI 编码智能体更高效的新方法。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的模型开销,并给出计算真实模型成本的框架。文章拆解了 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四类隐藏成本驱动因素,示例中单价高 2 倍的模型因单轮完成、输出更短,单任务成本反而低 65%。
AWS 给出无需自写代码的方案,按 IAM 用户或角色追踪并限制 Amazon Bedrock 推理支出。Amazon Bedrock 自动记录每次推理请求的 IAM 主体身份,配合 principal tags 或会话标签、CUR 2.0 与 Cost Explorer 实现按身份的成本可见性,再用 AWS Budgets 预算操作在超阈值时下发 Deny IAM 策略。
Hugging Face 发布 TRELLIS.2 的 LoRA 微调指南,提供可在本地或 Hugging Face Jobs 运行的预处理与训练容器脚本。作者用 GSO 中 188 个鞋类对象做实验,只对稀疏结构流 DiT 和形状流 DiT 注入 LoRA 适配器、冻结纹理流 DiT,共训练约 930 万适配器参数。
Google Research 提出一套研究性机器学习框架,把可穿戴设备的被动信号转化为可干预的 coachable health age(可指导健康年龄),并用动作条件世界模型 SensorWM 模拟个性化的 12 周习惯改变轨迹。
AWS 团队在 SageMaker HyperPod 的 PyTorch DDP 训练循环中加入三项检查来检测静默数据损坏,包括 all-reduce 前后的 NaN/Inf 梯度检查、环形重放审计和权重指纹比对,并给出定位节点、隔离与替换的完整流程。
AWS 将于 11 月 30 日至 12 月 4 日举办 re:Invent 2026,AI/ML 专场提供超过 140 场课程,覆盖 AI 芯片、模型训练与推理、智能体开发管理等 AWS AI 技术栈各层。
多向量嵌入模型可通过 Token Pooling 合并相似 token 向量来压缩存储,而 pooling 感知训练能让编码器在合并时保留关键信息。在 pool_factor=4、文档向量减少 4 倍的条件下,常规训练模型保留未池化 NanoBEIR nDCG@10 的 94.6%,感知训练将这一保留率提升至 97.8%。
Google DeepMind 发布 AlphaGenome 2,这是一个条件式 DNA 序列模型,可针对特定细胞类型和状态预测 DNA 变异对基因表达的影响。模型基于 68 种组织、超过 1.07 亿个单细胞图谱训练,在 TenK10K 数据集上识别出的因果变异比例从 16% 提升到 30%。该模型可通过 AlphaGenome API 用于非商业研究,商业研究处于私密预览阶段。
推荐理由:原文给出模型架构改动与单细胞层面的评测对比,读者可据此判断变异效应预测在细胞类型粒度上的进展。
AWS 发布 Amazon Bedrock 调用日志可观测性数据湖方案,通过 CloudWatch 订阅过滤器将多账号调用日志汇聚到中心账号,经 Data Firehose 转为 Parquet 存入 S3,并用 Athena 统一查询。
Google DeepMind 发布 SatWeave 和 PARDIG 两个数据集,二者是 WeatherNext 3 模型的关键数据基础。
亚马逊研究者提出 HOPE(Higher-Order Pruning of Experts),一种考虑专家两两交互的二阶 MoE 剪枝方法。在 50% 剪枝率下,HOPE 平均排名优于所有方法,在 agentic coding 任务上比次优剪枝方法最高提升 +6.1%。
Elith 与 NVIDIA 发布 Nemotron-Personas-Finance-Japan,这是 Nemotron-Personas-Japan 的金融领域扩展,据称是首个百万记录规模、结合日本官方统计与家庭金融数据的开放 persona 数据集。
Google 上线 Language Explorer 交互式网页平台,基于开源数据集 LinguaMeta 汇总数千种语言数据,供研究者、教育者和语言爱好者探索全球语言多样性。
NVIDIA 在 MSIT-NVIDIA AI 创业合作论坛上宣布投资韩国初创公司 Point2,并计划追加投资 Motif Technologies、RLWRLD 和 Upstage。
亚马逊 NASC 团队在 Amazon ECS Fargate 上构建了无服务器 MCP server,作为 AI 智能体访问企业数据湖的集中式网关,新增数据集只需一个 JSON 元数据文件,无需编写集成代码。
Ai2 发布 ToyBlocks,一个围绕机械臂与桌面方块的开源仿真框架,可自动生成任务与演示数据并评测机器人行为。它基于 Isaac Lab 用强化学习和运动规划生成技能,单 GPU 并行执行数百个规划,达到最高 24 倍实时速度。首个数据版本包含 85,336 条长程演示、近 1,600 小时机器人执行数据和 1.44 亿帧。
NVIDIA 在 Cosmos 世界模型平台下新增四个 Cosmos 3 开放权重检查点,均为 Cosmos 3 Nano 的后训练版本,含 16B 可训练参数,采用 OpenMDW1.1 许可,允许商用与非商用。
推荐理由:文章给出四个开放权重检查点的能力分工与四阶段训练配方,读者可据此判断如何适配到自有传感器与机器人本体。
NVIDIA 通过全栈协同设计缓解 AI 工厂的 GPU 内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU 的 HBM 容量仅提升约 3%,但 SemiAnalysis AgentX 上的智能体吞吐每美元最高提升 30 倍。
Google Research 提出 AI-PPG-ACC-HTN 系统,利用消费级智能手表的 PPG 和加速度计信号被动检测高血压迹象,无需袖带校准。该系统先用 492,347 小时、2,109 名参与者的无标签数据做自监督预训练,再按人聚合多日嵌入向量并结合身高做逻辑回归分类。
推荐理由:该系统用智能手表 PPG 与 ACC 信号做无袖带校准的高血压筛查,并与 24 小时动态血压监测对比,读者可了解其两阶段训练与临床验证设计。
Dharma-AI 发布 Dharma Field Extractor,一个 20 亿参数模型,输入文档图像后按开放模式或指定 schema 输出结构化 JSON,同一 checkpoint 无需按文档类型微调。