让 AI 从开支变成资产:企业何时该自建算力而非按 token 付费
HPE 赞助内容指出,当 AI 从试验走向客服、IT、研究等常驻生产负载,按 token 消费的模式会让支出变成难以预测的月度变量,企业需评估自建容量的经济性交叉点。Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 使用率上升 5%,至少 40% AI 项目投产的公司比例预计半年内翻倍。决策取决于模型、输入输出 token 比例、性能要求、能耗与运营模式,而非通用成本基准。
HPE 赞助内容指出,当 AI 从试验走向客服、IT、研究等常驻生产负载,按 token 消费的模式会让支出变成难以预测的月度变量,企业需评估自建容量的经济性交叉点。Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 使用率上升 5%,至少 40% AI 项目投产的公司比例预计半年内翻倍。决策取决于模型、输入输出 token 比例、性能要求、能耗与运营模式,而非通用成本基准。
波士顿语音智能初创公司 Modulate 完成 2500 万美元新融资,由 Future Ventures 领投,Hyperplane 和 Lakestar 参投。其平台运行超过 100 个模型,分为信号提取与分析检测两类,为企业提供转录、情绪分析、深伪与 AI 音乐检测,以及受监管行业语音智能体的合规执行。公司现有 40-45 名员工,计划再招 10 人加强模型建设,并正提升本地与端侧部署能力。
据知情人士消息,AI 推理基础设施服务商 Modal Labs 正接近完成由 Accel 领投的 7.5 亿美元融资,估值 157.5 亿美元,该轮规模此前未被报道。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为更高效、单任务成本更低的 Sonnet 模型,适合聚焦编码与知识工作。
推荐理由:原文给出 Sonnet 5.5 在 Bedrock 上的能力定位与 Opus 5.5 的分工,读者可据此判断何时选 Sonnet 承担规模化任务。
英伟达 CEO 黄仁勋周一发布 Nvidia Open Agent Safety Platform,通过软硬件组合为 AI 智能体增加独立安全层,防止其突破测试环境。
AWS 发布教程,演示如何用 vLLM-Omni DLC 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。
AWS 发布教程,演示在 SageMaker AI 上从同一个 vLLM-Omni DLC 部署两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词经 Amazon S3 传给视频端点,最终取回 MP4,并提供命令行与 Streamlit 界面。
AWS 介绍了一种基于 Amazon Nova Act 和 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用自然语言动作替代 Selenium、Playwright 的 DOM 选择器脚本。
AWS 发布跨账户自动化管理 Amazon Textract 适配器生命周期的方案,通过将适配器 ID 外置到 AWS Systems Manager Parameter Store,生产环境适配器引用更新无需重新部署应用,原本需数小时至数天的协调工作缩短至数秒。
Nvidia 发布 Sentry 硬件看门狗,作为 BlueField-4 DPU 的参考设计,运行在独立于主机的通道上,可在毫秒级隔离试图越狱的 AI 智能体。
英伟达推出 Open Agent Safety Platform,用于隔离和监控 AI 智能体,称可在毫秒级内隔离试图越界的智能体。该平台基于开源软件 OpenShell,运行在英伟达 Vera AI CPU 上,用户可设定智能体可访问的信息,OpenShell 会在任务执行前和执行中检查这些限制,另有独立芯片上的 Sentry 技术持续监控智能体。
AWS 发布基于 Amazon EKS、EFA 和 DeepEP 的 MoE 强化学习训练架构,吞吐量提升 40%。该方案针对 RLHF 和 GRPO 等大规模 RL 训练中 rollout 生成与策略训练的资源竞争问题,通过 DeepEP 优化 Expert Parallelism 在 EFA 上的 all-to-all 通信。
在 Amazon SageMaker HyperPod 上,用开源 RL 框架 SkyRL 对 Qwen3-VL-8B 视觉语言模型做 GRPO 后训练,在固定 64 个迷宫评测集上把解迷宫成功率从 43.75% 提升到 95% 以上。
NarrateAI 在 Amazon Bedrock 上通过五项技术实现约 99% 的数值准确率并实时流式返回结果,服务超过 4000 名 AWS 高管。这五项技术分别是自适应流水线编排、跨账户多模型故障转移、实时流式评估、复合评估框架和数据准确性验证,其中约 90% 的查询走单次快速路径,仅约 10% 走并行批处理路径。
阿里云 Qwen 团队开源的 Qwen3-TTS-12Hz-1.7B-Base 已上线 Amazon SageMaker JumpStart,可部署到全托管实时推理端点,仅凭几秒参考音频和对应文本即可克隆音色,无需重新训练。该模型覆盖中文、英文、日文等 10 种语言,支持跨语言克隆与流式生成,输出 24 kHz 音频,同系列还有 CustomVoice 和 Qwen3-ASR-1.7B 可选。
Datacor 将 Amazon Quick Sight 嵌入 TrackAbout 方案,为工业气体与焊接分销商提供交互式仪表盘和自然语言查询,业务用户无需提 IT 工单即可分析租赁数据。其 TrackAbout 客户合计管理 2750 万个资产、每月处理超 72.5 万张账单,底层通过跨云自动化管道将数据刷新至 SPICE。
Amazon SageMaker HyperPod 搭配 Qumulo 的 Cloud Native Qumulo(CNQ)与 Cloud Data Fabric(CDF),可让训练算力与数据集分处不同 AWS Region 而无需复制数据。
AWS 发布 WhisperX Deep Learning Container,在 OpenAI Whisper 基础上加入批处理推理、wav2vec2 强制对齐的逐词时间戳和说话人分离,可部署到 Amazon SageMaker AI 实时或异步端点,无需自建镜像。
Google 的 Project Suncatcher 首颗试验卫星 MVP 将于 10 月 1 日发射,用于验证其轨道 AI 数据中心构想。该卫星约冰箱大小,搭载四块 Google 自研 TPU AI 加速器,太阳能板供电约 1 千瓦。
企业可借助 Amazon Bedrock AgentCore Gateway 与 MCP 构建多账户 AI 智能体,让各业务线数据留在自有账户,仅在查询时按需流出。
Aderant 基于 Amazon Bedrock 调用 Amazon Nova Lite,为 38 人的 SierraOps 团队构建了智能工单分诊系统 Intelligent Ticket Analyzer,自动完成工单上下文收集、分类与路由。
Remedy Entertainment 的 CONTROL Resonant 已在 GeForce NOW 首发上线,Ultimate 会员可以 GeForce RTX 5080 级性能串流,支持 DLSS 4、光线追踪与最高 5K HDR,无需 100GB 本地安装。
荷兰零售商 HEMA 基于 Amazon Bedrock AgentCore 和 MCP 构建了内部 AI 助手 HAL,把原本需要跳转三四个门户、耗时一下午的查询缩短到几秒。
GitHub Copilot 应用重建了 pull request 视图,用一个含 2,200 个文件、超百万行改动和 400 多条行内评论的开源 PR 做压力测试。代码行沿用“绘制前高度已知”的确定性几何,评论等动态块则改为惰性测量、高度有界、修正锚定在用户当前视口,避免滚动跳动。
AWS 发布基于 Strands Agents SDK 的智能体架构视频智能方案,由 Amazon Bedrock 驱动,按用户提问在运行时调度 Amazon Rekognition、Amazon Transcribe 和 Amazon Bedrock Data Automation。
开源终端 AI 编程智能体 OpenCode 可接入 Amazon Bedrock 上的开放权重模型,推理在用户自己的 AWS 账户内完成,无按席位收费。文中演示了用 Moonshot AI Kimi K3、OpenAI GPT-OSS 120B 和 NVIDIA Nemotron 3 Super 120B 配置多模型工作流,并称 Ethara.AI 已用该架构在生产环境做多智能体编排。
微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 能提升任务表现。
推荐理由:微软研究院系统测量了机器人端侧推理与卸载到边缘或云端 GPU 的差异,并给出可复用的 Kubernetes 卸载工具链。
Google DeepMind 公布 Private AI Compute 的新技术能力,将持久化服务端记忆引入该平台,使 AI 助手能在跨设备场景下保留上下文,同时维持端侧级别的隐私标准。
推荐理由:Google 公开了云端持久记忆的隐私架构,读者可了解跨设备 AI 记忆如何在服务端保持端侧级隐私。
Airbnb 正在扩大 GPT-6 Astra 及 OpenAI 前沿模型的使用范围,帮助工程团队排查 bug、设计系统并加快交付。
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 已在 Amazon Bedrock 正式可用,API 定价明显低于前代 GPT-5.6。
推荐理由:原文给出两款新模型在 Bedrock 上的定位与定价变化,读者可据此判断不同负载该选哪一档。
AWS 宣布 Claude Opus 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线,是 Claude 5.5 模型家族的首个模型。
推荐理由:官方给出 Claude Opus 5.5 在 Bedrock 上的接入方式与定价变化,读者可据此评估迁移与成本。
NVIDIA 在加拿大多伦多 ROSCon 大会上发布 Isaac ROS 5.0,这是一套基于 ROS 的 GPU 加速软件包集合,新增智能体工作流与平台支持。
推荐理由:Isaac ROS 5.0 把智能体工作流引入机器人开发,并给出多家厂商的落地案例,可据此判断开源机器人栈的演进方向。
TypeSafe AI 上周发布 Jev,这是其称为 System One 模型的新类别,输入文本后不返回文本,而是返回对应类别、是非题、评分及置信度的浮点数。
NVIDIA 推出 DSX Ready 认证计划,用于审核合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求,首批覆盖电池储能系统(BESS)和冷却分配单元(CDU)两类。
NVIDIA 发布 Halos 全栈安全系统,覆盖物理 AI 从硬件、软件到 AI 行为与部署验证的每一层。面向自动驾驶,Halos 包含 DRIVE AGX Thor、Hyperion、基于 ASIL-D 认证 DriveOS 的 Halos OS,以及开源推理视觉语言动作模型 Alpamayo。
NVIDIA 在开罗大埃及博物馆举办活动,展示埃及 AI 生态从能力建设走向规模化落地,其 Deep Learning Institute 埃及学员规模一年增长超十倍。埃及已批准 Hassan Allam 建设运营数据中心,相关投资约 4 亿美元;Cassava 与 Vodafone Egypt 也宣布共建 AI factory,以 GPU-as-a-service 提供本地托管 AI 基础设施。
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外执行策略并提供沙箱化执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
NVIDIA 在纽约气候周介绍了五家用 AI 推进清洁能源的公司。ThinkLabs AI 用 CUDA 平台打造数字孪生与智能体,帮助南加州爱迪生将电网互联申请评估时间从 30-45 天缩短至 2 分钟。
Simon Willison 发布 llm-keys-ui 0.1 插件,用于在 Codex Remote 场景下向远程机器写入 API 密钥,避免把密钥直接粘贴进 ChatGPT 应用或智能体会话。
Pawprint Studio 的开放世界捉宠 RPG《Aniimo》首发即登陆 GeForce NOW,玩家无需等待 45GB 下载即可在 Steam Deck 及新支持的 Firefox 浏览器上串流游玩。