用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上用两个 GPU 节点部署单个大语言模型,将 prefill 与 decode 阶段分离并统一在一个 OpenAI 兼容端点之后。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上用两个 GPU 节点部署单个大语言模型,将 prefill 与 decode 阶段分离并统一在一个 OpenAI 兼容端点之后。
NVIDIA 在 OCP Global Summit 上通过开放 MGX 架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计,并发布第三代 MGX AI 数据中心参考设计。
推荐理由:NVIDIA 在 OCP 峰会上开放 Vera Rubin 机架与计算托盘设计,并公布 MGX 1.2 与 DSX 开源组件,读者可据此了解 AI 工厂基础设施的开放标准走向。
微软计划从 2027 年起以多吉瓦规模部署 Azure Maia AI 芯片,使其成为公司各产品的主要推理系统。Maia 200 已在美国、欧洲和澳大利亚运行 Microsoft Copilot,GitHub Copilot 和 Foundry 将在年底前跟进。
Blueprints AI 推出第二代软件,可从项目描述或草图一次性生成建筑、结构、机电、管道和室内设计蓝图,一处设计改动会同步更新整个项目并对照当地建筑规范检查。该软件已向早期客户开放,本周正式公开;第一代产品月费 3200 至 8500 美元,企业可定制报价。联合创始人称建筑师约 80% 时间用于绘图、仅 20% 用于设计,目标是翻转这一比例,但文件仍须持证建筑师审核盖章后方可报批。
前Plaud高管Peter Mo创办的Ambi完成2600万美元融资,由Luminous Ventures和华勤领投,并推出iPhone、Mac和Apple Watch应用。该应用可全天候监听用户,在会议中由AI智能体主动提供建议,还计划推出带屏幕、摄像头和麦克风的硬件设备。Ambi称环境采集默认关闭、不存储录音并加密数据,但披露责任仍由用户承担。
Amazon 已在仓库部署超过 100 万台机器人,全天候支撑每日数千万件当日达和次日达包裹配送,同时仍是全球第二大企业雇主,拥有超 150 万名全职和兼职人类员工。Amazon 高管称机器人承担了最繁重、最易致伤的工作,但劳工倡导组织和独立研究者认为,AI 驱动的仓库自动化对人类并非全是好处。
一名非 AI 专家在 M5 Ultra Mac Studio 上安装开源 Hermes Agent,并选用 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型,尝试用 AI 智能体处理日常任务。他让 Hermes 生成每日晨间简报、按类型整理 400 多款 Steam 游戏,并在本地分析财务记录和笔记本规格表,以避免将敏感数据上传云端。
Ornn、Silicon Data 与 Bloomberg 截至 2026 年 8 月的数据显示,AI token 价格持续下跌,但 H100 GPU 租赁价格保持稳定甚至上涨,a16z 称这是 AI 市场的教科书式杰文斯悖论。
Python 3.15.0 已被加入 GitHub Actions 的 actions/python-versions,现在可以在 GitHub Actions 测试矩阵中填入 "3.15" 来针对新版本运行测试。Simon Willison 表示为此等待了几天,甚至让 ChatGPT 每小时检查一次,直到稳定版 3.15 被添加。
微软推出决策模型 Decision-1,基于 Qwen3.5-9B,面向分类、评估和路由决策,并称其有潜力引导和控制智能体应对复杂环境。微软称该模型在覆盖近 15 万个问题、36 项基准的测试中准确率最高,达到 83.5%,延迟 85 ms,速度是第二名 H2O-Lightning-4B 的 2.5 倍。
Standard Bots 用共享基础模型加演示微调的方式为工业机械臂构建 AI,最大模型仅低十亿级参数,靠超十亿张图像训练的零样本感知系统定位零件,运动与单元逻辑仍由传统编程处理。
Asana 借助 Codex 中的 GPT-6 Astra,在测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维任务变成透明的行政预算流程。
Amazon 宣布在与地方政府谈判数据中心交易时将不再使用保密协议(NDA),此前 Microsoft 今年早些时候已采取类似举措。保密做法加剧了社区对 AI 基础设施的反对,从纽约到旧金山已出现数百项拟议和已颁布的暂停令。TechCrunch Equity 播客还讨论了个人 AI 初创公司能否让用户放心将收件箱、文件和信用卡交给 AI 智能体。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构,用于支撑 4000 万开发者的 API 测试、文档、发现与实现工作。
Amazon Bedrock 在 9 月更新中上线 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万 input tokens,Ultrafast 版本推理速度最高提升 6 倍、达 300 tokens/秒。
Simon Willison 发布 ttok 0.4,这是基于 OpenAI 开源 tiktoken 库的 token 计数与截断 CLI 工具。此次更新修复了一个 Click 警告、更新了 CI,并新增 --list-models 命令用于列出可用模型。该工具支持通过 uvx 运行,可用 `cat file.txt | uvx ttok` 统计 token。
LegalOn 将每日 Codex 预估成本削减 65%,同时保持开发速度。该公司按任务类型匹配 Astra、Sol 和 Luna,并对预算进行策略性管理。
NVIDIA 开发者用 GPT-6 Astra、Claude 等前沿模型配合 Omniverse 库,通过自然语言指令完成 3D 资产创建、机器人拆解测试、建筑重建和燃气轮机数字孪生等仿真应用。其中燃气轮机原型内置 6 项测试流程,可调负载、环境温度和燃料成分并对比功率与效率。SimReady Central Library 提供超 2,000 个仿真就绪 USD 资产。
AWS 介绍 Amazon Bedrock AgentCore payments 已正式可用,为 AI 智能体提供按需付费的托管能力,处理支付协议、连接钱包、签名交易并在基础设施层执行消费限额。
Oracle 在招聘、工程和运营场景中,用 ChatGPT Work 和 Codex 把专家知识转化为快速、可复用的工作流,将原本需要数天的工作缩短到几分钟。
AWS 发布基于 Amazon SageMaker HyperPod 与 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
Goodfire 发布基于模型内部激活的监控器,通过探针读取模型每一步的内部信号,仅在触发时调用另一个 AI 模型复核,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 1500 个会话成本约 51 美元,而用较便宜的 AI 模型逐步检查需 233 美元、顶级模型约 10000 美元;探针捕获了 94% 的恶意黑客会话,并将 8.7% 的无害会话送交复核。
Ambrosia Energy CEO Ben Longmier 与 Bloom Energy 数据中心解决方案高级副总裁 Bill Thayer 将在 TechCrunch Disrupt 2026 的 Smart Systems Stage 对谈"AI 基础设施热潮的赢家在哪里"。讨论聚焦电力、电网、数据中心、冷却等物理层约束如何催生持久商业机会,以及创业者可切入的新品类。
安全公司 Zenity Labs 披露 AWS Bedrock AgentCore 存在名为 AgentCorruption 的漏洞链,攻击者只需一个公开可访问智能体的聊天权限,用一条提示词即可接管同一 AWS 账号和区域内所有 AgentCore 智能体,读取私密对话、下载源代码并获取存储的凭证。
推荐理由:Zenity Labs 披露的 AgentCore 漏洞链条,展示了默认权限过宽如何让单个公开智能体接管同区域全部智能体。
Nvidia 在机器人和自动驾驶等物理 AI 技术上投入数十亿美元,并开发了可供企业构建的全栈安全系统。其 Halos 系统于 2025 年推出,提供硬件和软件工具帮助开发者在自动驾驶汽车等自主车辆中设置安全护栏;2026 年 6 月又宣布推出 Nvidia Halos for Robotics,将安全架构扩展到仓库自主移动机器人、工厂人形机器人乃至手术机器人。
微软在两年来的首场线下活动中发布新款 Surface Laptop Ultra,并公布 Windows 11 的一系列改动,同时展示本地 AI 与智能体工作流如何改变个人计算。
微软在旧金山 Tech Week 活动上公布新款 Surface Laptop Ultra 的规格与价格,两个基础型号分别 2600 美元和 3700 美元起,最高配至 5900 美元。
Amazon Quick 与 Amazon Bedrock Knowledge Bases 在原有预检索 ACL 过滤之上新增实时 ACL 校验,在查询时直接向权威数据源核实权限,避免依赖可能过期或映射错误的 ACL 数据。
NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,并公布 RTX Spark 笔记本与紧凑台式机。
推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,可据此判断本地智能体的落地路径。
微软面向开发者的高端 AI 迷你主机 Surface RTX Spark Dev Box 开启预售,售价约 6,000 美元,11 月开始发货。它采用 Nvidia Arm 架构的 RTX Spark 平台和 128GB 统一内存,可本地运行超过 120B 参数的模型,用于测试 AI 模型、原型化 AI 智能体或在设备上运行 AI 编码工具。
Healthleap 完成 3800 万美元种子轮和 A 轮融资,其中 800 万美元种子轮由 Sequoia Capital 和 First Round Capital 联合领投,3000 万美元 A 轮由 Hummingbird Ventures 领投。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统还把手动生命周期操作从 10 多步压缩为 1 次交互(减少 70%),并将冗余告警中位数削减 65%。三人团队用六个月完成交付。
AWS 提出一套六周结构化培养方案,让非工程背景的业务人员用 Strands Agents SDK、Amazon Bedrock AgentCore 和 Amazon Nova 模型构建可用的 AI 原型。
AWS 展示了一套自动化修复工作流,用 Amazon EventBridge 接收 AWS DevOps Agent 的调查完成事件,再由 AWS Lambda Durable Functions 调用 Amazon Bedrock 从预审工具白名单中选取修复动作。
Qlik 基于 Amazon Bedrock 打造 Qlik Answers,为全球超 4 万名客户提供带来源引用的企业级问答,2026 年 2 月正式可用后其 Discovery Agent 已为客户发现超 10 万条洞察。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量、变更韧性与维护经济性四个维度衡量 agentic automation 的价值。
OpenAI 宣布 API 平台两项更新,其中新的 Decisions API 可评估文本、图像或两者,运行速度约为 Responses API 的十倍,目前处于公开测试阶段,即将正式可用。
由 Kubernetes 创始人 Craig McLuckie 和 Joe Beda 创办的 Stacklok 推出云原生 harness Mecatl,该项目于 6 月作为开源项目在 GitHub 启动,把智能体循环与客户端、模型提供方、状态存储和执行环境解耦。
在 Amazon Bedrock AgentCore 上运行开源智能体系统 OpenClaw,可构建具备持久记忆的上下文感知 AI 助手。AgentCore memory 将一次性对话转为持久知识,并支持结构化元数据标记以检索相关记忆;文本与图像分别路由至 Claude Haiku 4.5 和 Claude Sonnet 4.5。