AWS 发布 SageMaker AI 多轮强化学习实操指南
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AgentCore 托管的智能体执行多轮动作,按整局结果给奖励。示例中 gpt-oss-20b 在留出词上的解谜率从 61% 提升到 84%,训练 token 花费约 339 美元。文章还给出奖励设计的两处反转错误和训练中遇到的失败,并建议在服务时的设置下做评测。
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AgentCore 托管的智能体执行多轮动作,按整局结果给奖励。示例中 gpt-oss-20b 在留出词上的解谜率从 61% 提升到 84%,训练 token 花费约 339 美元。文章还给出奖励设计的两处反转错误和训练中遇到的失败,并建议在服务时的设置下做评测。
Bayer Crop Science 基于 Amazon Bedrock AgentCore 构建了多智能体自然语言界面 Agentic Decision Engine(ADE),第一阶段约 80% 的用户问题无需工程师介入即可解决。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 扩缩容目标。
OpenAI 通过可靠的多租户架构、全局缓存和 Azure Cosmos DB 扩展 Habitat 存储系统,使 ChatGPT 的读取速度提升 12 倍。该系统需支撑超过 10 亿 ChatGPT 用户。
Hugging Face 推出 torch-neuronx 模型支持 Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原样运行,并给出复现脚本。
Firebird 与哈萨克斯坦政府签署投资协议,获得 45,000 块 NVIDIA Grace Blackwell GPU 的美国出口许可,首期与 Kazakhtelecom 在 Data Center Valley 建设,目标 2027 年第三季度商用。
OpenAI 发布 Decisions API,为各类应用提供快速、聚焦、低成本的决定能力。该 API 面向需要更快响应的应用场景,官方称其成本较低。
在 Amazon SageMaker AI 的实时端点上托管 Kokoro-82M 语音合成模型,把 AI 智能体生成的每个句子即时送入合成,让音频在完整回复生成前就开始播放。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。该服务提供 ACL 感知检索、聊天与反馈日志,以及限制各 chat agent 可执行操作的控制项,并支持通过 MCP 接入自定义工具。
AWS 宣布 SageMaker AI 无服务器模型定制功能正式推出训练会话(training sessions),用户可自行编写训练循环、损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与 checkpoint 存储由平台负责。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖零售运营、兽医护理、人事入职和采购,支持四种语言、三个国家,无需自管 RAG 基础设施。
Amazon Polly Generative 引擎完成升级并正式可用,语音更自然准确、延迟更低,新增 14 种语音覆盖 9 个 locale,印地语和芬兰语首次在生成式引擎上正式可用。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产。
针对自托管 TTS 端点自动扩缩容目标值靠猜的问题,AWS 在 Amazon SageMaker AI 实时端点上部署 82M 参数的 Kokoro-82M 自定义容器,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 负载的遥测数据,用专用 AI 模型把数据转化为可执行洞察。该平台通过动态知识图谱映射 GPU、SuperNIC、交换机、线缆及运行其上的作业,每小时分析数十亿数据点,可把大量告警聚合成单一事件并给出可能根因。
OpenAI 解释了 FDE(前沿部署工程师)在其内部的具体含义。文章围绕这一岗位的定位与工作方式展开,说明前沿部署工程在 OpenAI 的职责内涵。
NVIDIA 与欧洲多国政府及合作伙伴推进公共部门 AI 项目,覆盖欧盟委员会、波兰、英国、德国、法国和希腊。德国方面,secunet、NVIDIA、Red Hat 与 deepset 正基于 SINA Cloud 开发主权云方案,整合 NVIDIA Nemotron 开放模型与 Red Hat OpenShift AI。
NVIDIA 在 GTC Berlin 展示 Earth-2 开放模型家族在欧洲的实际部署,最新成员 StormScope EU 基于 EUMETSAT 卫星观测,以 10 分钟间隔预测 16 个 Meteosat 通道的云况。
NVIDIA DSX AI Factory Platform 正被全球企业用于把电网与 AI 工厂作为一套系统统一规划、仿真和运行。GE Vernova、日立能源、施耐德电气、西门子能源等厂商已基于该平台推出参考架构与数字孪生方案;Phaidra 集成 DSX Flex、DSX Max-Q 和 DSX Exchange 后,在同等功耗下多获得约 10% 算力。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,覆盖世界模型从数据准备到部署的流程。
推荐理由:原文列出 Cosmos 平台新增的训练工具、仿真检查点和数据工厂蓝图,读者可据此了解世界模型从数据到部署的完整链路。
Revolut 正基于 NVIDIA 加速计算以单一基础模型 PRAGMA 重建技术栈,在 Blackwell Ultra GPU 上生产部署,初期服务 8000 万客户并设计支持 3 倍扩展。
AWS 解决方案架构团队开源了多智能体数据分析系统 Deep Insight,并总结生产化中的 5 个核心挑战:执行流控制、各智能体模型选型、生产运行、AI 生成代码的安全执行、监控运维。
AWS 发布方案,通过 AWS PrivateLink 的 VPC 端点与 Quick 的 VPC 连接,让 Amazon Quick 在不经过公网的情况下访问企业防火墙后的本地数据源。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层对请求分类,常规任务由 Ollama 本地 SLM 处理,复杂分析经 boto3 路由至 Amazon Bedrock。
在单台 trn2.48xlarge 上,torchtitan 可通过 TorchNeuron 将 Trainium 注册为原生 PyTorch 设备,并以三种方式训练 Qwen3-4B-Instruct-2507:Transformers v5 后端、torchtitan 原生 Qwen3 实现,以及挂载 NKI MoE kernel。
美国非营利组织 U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并将 SQL Server 数据每晚 2 点刷新至 SPICE 内存引擎。Quick Spaces 为领导团队提供共享的 KPI 定义、财务文档与分析空间,目前已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等职能。
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的推理性能 trace。
Dharma-AI 团队提出 VocabX 方法,在不更换基座模型、数据和训练配方的前提下,围绕每个 token 的推理成本而非出现频率重建词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上将实测推理成本降低 77.0%。
推荐理由:作者团队公开 VocabX 的词表专门化方法,读者可了解按生成成本而非词频选择 token 的思路与实测数据。
OpenAI 为 ChatGPT 构建了由 LLM 驱动的广告技术栈,用于理解对话意图、将广告与回答内容分离,并大规模投放相关广告。该技术栈的设计目标是兼顾用户信任与广告相关性。
Nebius、Nscale 和 Verda 等 AI 云厂商正采用 NVIDIA Vera CPU 构建本地基础设施,以支撑智能体计算中信息检索、代码执行等 CPU 密集型任务。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载并保留对模型和数据的控制。
NVIDIA cuDSS 正式 GA,作为 CUDA-X 库将大型稀疏系统求解迁移到 GPU,缩短仿真出结果时间并提升吞吐。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 提升,ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准测试提速 4x。
NVIDIA 面向工厂场景的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建常驻工厂管理智能体及视觉检测、根因分析等专用智能体。
NVIDIA 宣布其欧洲、北欧、非洲和中亚的云伙伴扩大区域算力,用于模型训练与推理,并在 GTC Berlin 发布 NVIDIA OpenShell 参考架构,为 AI 智能体设定可访问范围的边界。
Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月正式开放,并计划扩展至欧洲。
推荐理由:原文给出 A5X 实例的配置、开放时间与首批客户用例,读者可据此判断这套云上训练推理平台适合哪类负载。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品,包括面向 Windows PC 的 RTX Spark、面向 Linux 开发者的 DGX Spark 和企业级 DGX Station,并宣布 DGX Station 的 Windows 版本将于 12 月推出。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主旨演讲中宣布多项产品,包括由合作伙伴在模块化集装箱内构建的 Vera Rubin AI 工厂参考设计 DSX POD,现场部署时间可从六个月缩短至 14 天。
推荐理由:黄仁勋在 GTC Berlin 的主旨演讲集中披露了 AI 工厂、智能体安全运行时与开源模型的产品化路径,可据此了解 NVIDIA 在欧洲的生态布局。
i14 与 AWS 合作,通过 TorchNeuron Native 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留其 GLA 设计与 Muon 优化器。
Smartsheet 已正式发布 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,支持用自然语言更新任务状态、创建行和调整项目结构。
Smartsheet 正式推出 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,用于探索、创建和管理 sheet、行、列与自动化。