NVIDIA 在 SC26 推出 DGX Spark HPC 开发者套件
NVIDIA 在 SC26 推出 DGX Spark HPC 开发者套件,由四台 DGX Spark 组成环形直连集群,无需网络交换机,合计 512GB 内存和 16TB NVMe 存储。
推荐理由:原文给出四节点集群的规格与科研场景实测,读者可据此判断桌面级多节点算力能替代哪些排队等待的集群任务。
NVIDIA 在 SC26 推出 DGX Spark HPC 开发者套件,由四台 DGX Spark 组成环形直连集群,无需网络交换机,合计 512GB 内存和 16TB NVMe 存储。
推荐理由:原文给出四节点集群的规格与科研场景实测,读者可据此判断桌面级多节点算力能替代哪些排队等待的集群任务。
AWS 博客系统梳理多智能体设计模式,按控制流分为开发者定义路径的 Tier 1(顺序流水线、条件工作流、条件路由、并行工作流)和模型运行时决定路径的 Tier 2(计划编排、交接、对话驱动、辩论共识),并建议默认从 Tier 1 起步。
Duco 基于 Amazon Bedrock 与 Bedrock AgentCore 重建智能体 AI 栈,从传统机器学习转向智能体方案,以缩短部署时间并降低客户接入成本。
NVIDIA 运营负责人 Deb Shoquist 接受采访,讲述其团队如何将芯片设计转化为可量产的 AI 基础设施供应链。她每年花六周走访台湾、中国、韩国、越南和美国的合作伙伴,与 TSMC 的合作始于 1998 年。她近日获颁 2026 年 Dr. Lisa Su Woman of Innovation Award。
微软研究院联合 UC Berkeley 和 Microsoft Security 提出开源插件 TokenEconomizer,它从编码智能体在仓库中的历史会话学习,在不修改智能体和底层模型的情况下减少重复探索、无用工具加载和失败循环。
推荐理由:微软研究院等机构提出的插件在不改动智能体和模型的前提下,用仓库历史降低编码智能体的 token 成本,并给出多组合实测数据。
MoEngage 基于 Amazon Bedrock 与 AgentCore 构建了 Merlin AI 智能体体系,通过 MCP Connector 让 Claude、ChatGPT 等兼容 MCP 的助手以租户隔离方式访问品牌分群、活动历史与内容库。
AWS 发布五阶段方法论,借助 Amazon Bedrock、Kiro IDE 和 AWS Transform 将大型机 Assembler 程序先转为 COBOL 中间层、再转为 Java Spring Boot 服务部署到 AWS。
Amazon Bedrock Managed Knowledge Base 新增表格检索,可在智能体检索中对 CSV、XLSX、XLS 文件按整表运行代码并给出带引用的答案。
Novo Nordisk 的 Tablet 制造技术团队基于 Amazon Bedrock AgentCore 构建了智能支持系统,让主题专家原本需要数小时或数天完成的工作缩短到几分钟。
阿里发布旗舰模型 Qwen4-Max,采用 2.4 万亿参数的 MoE 架构、每 token 激活 710 亿参数,支持原生图像处理与 100 万 token 上下文窗口。
推荐理由:原文给出 Qwen4-Max 的架构改动、基准对比与每任务成本,读者可据此判断其性价比位置。
Amazon Bedrock 的开放权重模型现已支持显式提示词缓存,用户可通过 Chat Completions API 的 prompt_cache_options 标记可复用前缀。缓存读取按低于标准输入的价格计费,重复使用同一前缀可降低输入成本与响应延迟;隐式缓存则自动按最佳努力复用前缀。提示词与输出不会共享给模型提供方或用于训练。
Amazon Bedrock Managed Knowledge Base 新增检索指令功能,可按租户定制回答的语气、格式、检索引导和回答策略。指令作为受管、带版本的 Amazon Bedrock 资源创建,请求可指定版本,默认使用 DRAFT,首个 Planning trace 事件会返回 appliedInstruction。
Amazon Bedrock Guardrails 的 Denied Topics 按语义而非关键词匹配内容,容易误伤含义相近的合法请求。文章以虚构的 AnyCompany Bank 客服助手为例,总结出八项最佳实践,核心是围绕用户意图而非主题领域来定义话题,并分别落实到名称、定义和示例三部分。
NVIDIA 在 SC26 上发布 Vera Rubin 平台的新 GPU Rubin HPC,用于加速科学、工程与分析工作流中的仿真和数据处理。该 GPU 单卡 CUDA 核心数超过 50,000,并具备稀疏数据加速能力和第七代 NVLink 互联,设计上让数据搬运与计算同步扩展。NVIDIA 称其预计 2028 年上市。
NVIDIA 在 SC26 上纪念 CUDA 发布 20 周年,目前已有超过 1100 万开发者在 CUDA 上构建应用。CUDA 于 2006 年 11 月在 SC06 发布,将 GPU 加速从图形扩展到科学与仿真领域,曾支撑 AlexNet 训练、AlphaFold 2 的 GPU 执行以及 HIV 衣壳结构解析等工作。NVIDIA 同时提供 1000+ CUDA-X 库。
NVIDIA Vera Rubin 平台首次提交 MLPerf 结果,在 MLPerf Training v6.1 的全部基准上均有成绩,Vera Rubin NVL72 每 GPU 性能最高达 GB300 NVL72 的 2 倍。
推荐理由:原文给出 Vera Rubin 在 MLPerf Training 与 Endpoints 的具体成绩和规模数据,读者可据此判断新一代平台在训练与智能体推理上的代际提升幅度。
NVIDIA 发布新版 Slurm,允许 QPU 厂商通过单个文件为所有超算中心提供统一硬件接口,已获 IBM、IQM、Pasqal、Quantinuum 等采用,并支持 QRMI 和 QDMI 接口。Slurm 26.11 将于本月晚些时候推出。配套的 CUDA-Q 平台新增 QEC 解码器服务器,新 TCBP-JOBS 解码器比行业标准快 13,000 倍。
Lambda 采用 NVIDIA Photonics 共封装光学(CPO)交换机,将 NVIDIA GB300 NVL72 机架中超过 1 万块 GPU 互联,实现更低功耗与更高韧性。
SAP 推出自主企业框架(autonomous enterprise framework),帮助企业把 AI 从孤立 POC 转为统一数据层与流程上下文结合的企业平台。
Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可配置使用任何遵循该协议的 LLM 服务。这意味着通过 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 运行本地模型时,可用 uvx 启动由本地模型驱动的 Datasette Agent 实例。
GS Caltex 用 Amazon SageMaker Canvas 和 SageMaker Pipelines 打通工艺工程师建模与生产工作流,ML 工程师部署模型的时间从约一周缩短到几小时。
英伟达团队演示了用 UR17G 机械臂、Robotiq 2F-140 夹爪和饮料罐在 Isaac Sim 6.2 中搭建抓取放置仿真,资产来自 Hugging Face 上的 SimReady Central 库。示例使用 GPT-6 Sol 生成并执行任务代码,完成抓取、抬升、移动和释放动作。运行前需检查关节限位与驱动设置、小幅运动及接触行为,避免资产静止时外观正常但仿真中动作出错。
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流用于 A/B 对比)。
OpenFold3-preview 已在 Amazon SageMaker JumpStart 上线,可在自有 AWS 账户中预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的容量提供者运行语音转文字推理,单 GPU 跑一个模型、规模达数千实例。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并把身份与组织标签写入 CUR 2.0 和 Cost Explorer。
Amazon SageMaker HyperPod 推出 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个层级把线上推理的输入输出记录到 S3。
llama.cpp 与 ggml 发布 v1.0.0,并规定此后公共 C API 的破坏性变更将以主版本号递增来标记。项目已支持超过 150 种模型架构变体及主流投机解码方法,并通过 Docker、Homebrew、conda-forge、Winget、XCFramework 等渠道分发。
推荐理由:llama.cpp 与 ggml 同步发布 v1.0.0,并明确此后以主版本号标记 API/ABI 不兼容变更,下游集成方可据此规划升级。
前 OpenAI 研究员 Will DePue 称,他从公开模型权重的初始化随机分布中识别出 Nvidia Blackwell 芯片的核数特征,涉及 DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、MiniMax-M3 和蚂蚁 Ling-3.1-flash 六款自 2026 年 4 月以来发布的中国模型。
推荐理由:原文给出从模型权重随机种子反推训练芯片核数的技术路径,并列出六款中国模型对应的 Blackwell 型号与算力成本估算。
NVIDIA 在医疗领域推动多项 AI 应用落地:Proximie 基于 NVIDIA Cosmos 3 打造手术室平台,已用于 700 多间手术室,使临床团队处理病例量提升 8%、手术室周转加快 45%、准时开台率提高 26%。
Natera 基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,将支持工单首次响应时间提升约 130 倍,自动化覆盖率达 96.2%。
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下改变 token 处理量与计费费率。
Ars Live 将于今日(11月17日)下午1点(美东时间)举行讨论,主题是无人机袭击数据中心对未来意味着什么。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的模型开销,并给出计算真实模型成本的框架。文章拆解了 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四类隐藏成本驱动因素,示例中单价高 2 倍的模型因单轮完成、输出更短,单任务成本反而低 65%。
AWS 给出无需自写代码的方案,按 IAM 用户或角色追踪并限制 Amazon Bedrock 推理支出。Amazon Bedrock 自动记录每次推理请求的 IAM 主体身份,配合 principal tags 或会话标签、CUR 2.0 与 Cost Explorer 实现按身份的成本可见性,再用 AWS Budgets 预算操作在超阈值时下发 Deny IAM 策略。
AWS 发布新一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力扩展至 4 倍(最高 8 vCPU 和 32 GB)、运行效率提升最高 68%。
推荐理由:原文给出会话启动、算力上限与内存回收的具体变化,读者可据此判断智能体生产部署的成本与隔离取舍。
该方案用运行在 AWS Fargate 上的 LiteLLM 代理,将 Amazon Bedrock 封装为 OpenAI 兼容 API,并通过 Application Inference Profiles 实现按用户和按模型的成本控制与配额隔离。
AWS 提出 Agent Development Lifecycle(Agent DLC),用一个生命周期、两个循环和统一的验收标准来判定智能体的每次变更是否可上线。