NVIDIA 扩展机密计算,推出 Confidential Bare Metal 部署选项
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载并保留对模型和数据的控制。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载并保留对模型和数据的控制。
NVIDIA cuDSS 正式 GA,作为 CUDA-X 库将大型稀疏系统求解迁移到 GPU,缩短仿真出结果时间并提升吞吐。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 提升,ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准测试提速 4x。
NVIDIA 面向工厂场景的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建常驻工厂管理智能体及视觉检测、根因分析等专用智能体。
NVIDIA 宣布其欧洲、北欧、非洲和中亚的云伙伴扩大区域算力,用于模型训练与推理,并在 GTC Berlin 发布 NVIDIA OpenShell 参考架构,为 AI 智能体设定可访问范围的边界。
Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月正式开放,并计划扩展至欧洲。
推荐理由:原文给出 A5X 实例的配置、开放时间与首批客户用例,读者可据此判断这套云上训练推理平台适合哪类负载。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品,包括面向 Windows PC 的 RTX Spark、面向 Linux 开发者的 DGX Spark 和企业级 DGX Station,并宣布 DGX Station 的 Windows 版本将于 12 月推出。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主旨演讲中宣布多项产品,包括由合作伙伴在模块化集装箱内构建的 Vera Rubin AI 工厂参考设计 DSX POD,现场部署时间可从六个月缩短至 14 天。
推荐理由:黄仁勋在 GTC Berlin 的主旨演讲集中披露了 AI 工厂、智能体安全运行时与开源模型的产品化路径,可据此了解 NVIDIA 在欧洲的生态布局。
DeepSeek 开源其生产推理栈 DeepInfer,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,覆盖 NVIDIA 与华为昇腾平台。
推荐理由:DeepSeek 开源生产推理栈并披露单集群 155T tokens/日与缓存命中率,读者可据此理解其服务成本结构。
Tenex 联合创始人 Alex Lieberman 与 CJ Hess 在 AIE New York 分享了公司如何把"按交付成果付费"的 AI 工程师激励模式扩展为完整工程组织,目前团队已达 75 人,客户覆盖财富 2000 强与中型企业。
i14 与 AWS 合作,通过 TorchNeuron Native 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留其 GLA 设计与 Muon 优化器。
AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在自研芯片 Trainium 上,无需重写代码。
Google 宣布开源 TorchTPU,这是其 PyTorch 版本,开发者只需修改配置、无需重写应用,就能把现有 PyTorch 应用迁移到 Google 的 TPU 和 Google Cloud 上。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
SF Compute 正在把 GPU 算力做成可交易市场,并自建云运营能力实现"物理交割"——买家拿到的是可用算力而非现金结算。CEO Evan Conrad 称公司已从转租集群扩展到承担云的大部分运营能力,并按中断性、存储恢复速度、GPU 代际与网络配置等约束撮合订单。他认为拥有硬件或推理业务的公司难以运营中立交易所,这也是 NVIDIA 无法自己做这件事的原因。
Smartsheet 已正式发布 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,支持用自然语言更新任务状态、创建行和调整项目结构。
Smartsheet 正式推出 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,用于探索、创建和管理 sheet、行、列与自动化。
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台,将每个用例的部署时间缩短 50%。该平台为 Reliance 质量管理系统嵌入 2 亿级文档,并通过 AgentCore Gateway 隔离执行、Bedrock Guardrails 双重过滤保障租户数据不越界。
GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%),团队在 Amazon SageMaker HyperPod 上用 LoRA 结合 SFT 与 GRPO 进行微调。
Amazon Quick 与 Amazon Bedrock AgentCore 组合,让供应链管理者用自然语言跨系统提问并直接获得可执行答案。演示中一次查询识别出 TechComp 停产风险:$750K 受影响、23 笔订单、三天库存,并自动串联治理与报价 MCP 生成紧急 RFQ。
Hugging Face 宣布 TorchTPU 作为 PyTorch 原生后端接入其生态,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型只需指定 device_map="tpu" 或 pipe.to("tpu")。
推荐理由:原文给出了安装命令、各库的接入方式和实测吞吐数据,读者可据此判断 PyTorch 在 TPU 上的迁移成本。
Eon 用 Amazon Bedrock AgentCore 的 MCP Gateway 替换了逐工具凭证和本地 MCP 进程,让开发者和自主 SRE 智能体通过单一认证网关统一访问 AWS、GCP、Azure 三朵云上的调查工具。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为基于 MCP 的 AI 智能体建立可验证、可撤销的加密身份。
AWS 发布教程,介绍用 AWS Agent Registry 在运行时按需发现 MCP 服务器和 A2A 智能体,替代把工具硬编码进编排器。示例通过 Amazon Bedrock AgentCore Gateway 部署订单管理 MCP 服务器,编排器用混合关键词与语义搜索查询已审批记录,再依据描述符构建请求级客户端,鉴权凭据需另行获取。
加拿大组织现可在 Amazon Bedrock 上通过跨区域推理(CRIS)从加拿大(中部)和加拿大西部(卡尔加里)区域访问 OpenAI GPT-6.1 Sol、GPT-6(Astra、Sol、Luna)和 GPT-5.6(Sol、Terra、Luna)模型。
AWS 博客演示用 AtScale 作为语义层、Amazon Bedrock AgentCore 托管 Strands 智能体,构建 Customer 360 场景。
AWS 发布教程,演示以 Strategy Mosaic 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体,通过 MCP 端点访问跨 Amazon Redshift 与 Amazon Aurora 的 Customer 360 模型。
本文演示用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体,联邦查询 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 三处数据源。
企业 AI 的衡量重心正从 token 或 GPU 小时单价转向"每个有用产出的有效成本",即完成可被业务使用的请求或工作流所需的平台、模型、运营与容量总成本。
Cloudflare 发布 AI 模型 Clairic,称其从文档中抽取数据比大语言模型更快、成本更低,已在 Workers AI 上线预览版,开放权重即将跟进。
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持和原生 grouped matmul,MoE 模型解码速度比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。
三星在韩国平泽建设大型半导体制造园区,目前三座晶圆厂全天候运转,第四座即将投产,第五座在2024年内存需求下滑时停工后因 AI 热潮重启。三星预计内存芯片需求将持续激增到2028年,此举意在从 SK 海力士手中夺回高带宽内存市场的领先地位。园区面积约相当于纽约中央公园,现场工人日薪为14万韩元(97美元)。
巴塞罗那超级计算中心(BSC)的 AI Factory 加速器计划已从试点转为全面运营,为初创企业提供主权算力、技术支持和培训,部分服务现已通过 NVIDIA Inception 门户开放。
Latent Space 的 AINews 汇总了 10 月 16 日至 19 日的 AI 动态,重点包括 DeepSeek V4.1 Flash 1017 以 552B 总参数、16B 激活的 MoE 架构和 1M token 上下文发布,MIT 许可,定价维持每百万输入/输出 token 0.30/1.20 美元。
Amazon SageMaker AI 新客户现在可用 Google、GitHub、Apple、Amazon 账号或邮箱在 2–3 步内注册 AWS,并直接进入自动配置好的 SageMaker Studio 环境,环境创建约需 20 秒。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超过 100 个模型,来自 30 家不同提供商。其中 Alibaba(Qwen)贡献 29 个模型,NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron-3-Super-120B。新增模型重点覆盖多模态、量化与紧凑模型,以及图像视频生成能力。
Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供原生 PyTorch 后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接在该设备上运行,无需再经过 Optimum Neuron。
德国联邦政府与 NVIDIA 签署联合意向声明,将共同推进面向物理 AI 的前沿模型,并扩大与德国“工业 4.0 平台”的合作。黄仁勋同时宣布对 Agile Robots、Avelios Medical、Mirelo、Reflex Aerospace 四家德国初创公司的新投资,属于 NVIDIA 对欧洲近 100 亿美元承诺的一部分。
TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 上线,可将长视频按用户定义的分段规则输出带起止时间的结构化 JSON 元数据。
AWS 团队介绍 vLLM 中的双向 KV 传输机制,让 decode 节点在后续轮次把已计算的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。
vLLM 新增 push 模式的 NIXL connector,把 prefill 后的传输协调与建链从关键路径移到 prefill 侧后台线程,减少首 token 等待。