在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由到合适的模型
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流用于 A/B 对比)。
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流用于 A/B 对比)。
OpenFold3-preview 已在 Amazon SageMaker JumpStart 上线,可在自有 AWS 账户中预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的容量提供者运行语音转文字推理,单 GPU 跑一个模型、规模达数千实例。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并把身份与组织标签写入 CUR 2.0 和 Cost Explorer。
Amazon SageMaker HyperPod 推出 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个层级把线上推理的输入输出记录到 S3。
llama.cpp 与 ggml 发布 v1.0.0,并规定此后公共 C API 的破坏性变更将以主版本号递增来标记。项目已支持超过 150 种模型架构变体及主流投机解码方法,并通过 Docker、Homebrew、conda-forge、Winget、XCFramework 等渠道分发。
推荐理由:llama.cpp 与 ggml 同步发布 v1.0.0,并明确此后以主版本号标记 API/ABI 不兼容变更,下游集成方可据此规划升级。
Ai2 联合 CMU、NVIDIA 和约翰霍普金斯大学发布 XYBench,一个含 8,115 个真实问题的基准,专门测试 AI 助手能否识别用户提问中的错误假设(XY 问题)并引导其解决真正目标,该基准获 EMNLP 2026 最佳资源论文奖。
OpenAI 推出 ChatGPT Wallet,为 ChatGPT Work、Codex 和 dots 中的智能体提供安全的购买方式,需经用户批准并沿用现有银行卡保护。原文未披露更多功能细节与上线时间。
推荐理由:原文交代了 ChatGPT Wallet 的适用场景与用户授权机制,读者可据此了解智能体代付的边界。
NVIDIA 在医疗领域推动多项 AI 应用落地:Proximie 基于 NVIDIA Cosmos 3 打造手术室平台,已用于 700 多间手术室,使临床团队处理病例量提升 8%、手术室周转加快 45%、准时开台率提高 26%。
IBM 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,基于 Granite 4.1 base 训练,可读写 LLMON 标记文本。
推荐理由:IBM 团队解释了 LLMON 如何用保留特殊 token 标记指令与数据边界,并给出提示注入攻击成功率下降的基准对比。
OpenAI 启动首阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 合作,由这些机构独立评估模型对齐、安全防护与监控系统。
Amplitude 以 OpenAI 模型为主要基础构建主动式产品智能体 Wave,可识别该做什么、帮助团队用编码智能体交付改动并衡量影响,从而在 1–2 天内完成产品改进。
GitHub 发布 agent skills 实用指南,介绍以 SKILL.md 为核心的版本化目录如何封装可复用任务指令,并可在不同智能体间共享。
Gondola 借助 Codex 将首席工程师产出提升 50%,并实现营收翻倍。ChatGPT 同时简化了其团队的日常工作。
Natera 基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,将支持工单首次响应时间提升约 130 倍,自动化覆盖率达 96.2%。
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。
Microsoft Research Focus 第98期由 Anson Ho 主持,介绍 AI 通用翻译进展、31 年 KLS 猜想被解决,以及让 AI 编码智能体更高效的新方法。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下改变 token 处理量与计费费率。
Amplitude 以 OpenAI 模型为主要基础构建主动式产品智能体 Wave,可识别该做什么、帮助团队用编码智能体交付改动并衡量影响,从而在 1–2 天内完成产品改进。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的模型开销,并给出计算真实模型成本的框架。文章拆解了 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四类隐藏成本驱动因素,示例中单价高 2 倍的模型因单轮完成、输出更短,单任务成本反而低 65%。
AWS 给出无需自写代码的方案,按 IAM 用户或角色追踪并限制 Amazon Bedrock 推理支出。Amazon Bedrock 自动记录每次推理请求的 IAM 主体身份,配合 principal tags 或会话标签、CUR 2.0 与 Cost Explorer 实现按身份的成本可见性,再用 AWS Budgets 预算操作在超阈值时下发 Deny IAM 策略。
AWS 发布新一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力扩展至 4 倍(最高 8 vCPU 和 32 GB)、运行效率提升最高 68%。
推荐理由:原文给出会话启动、算力上限与内存回收的具体变化,读者可据此判断智能体生产部署的成本与隔离取舍。
该方案用运行在 AWS Fargate 上的 LiteLLM 代理,将 Amazon Bedrock 封装为 OpenAI 兼容 API,并通过 Application Inference Profiles 实现按用户和按模型的成本控制与配额隔离。
Hugging Face 发布 TRELLIS.2 的 LoRA 微调指南,提供可在本地或 Hugging Face Jobs 运行的预处理与训练容器脚本。作者用 GSO 中 188 个鞋类对象做实验,只对稀疏结构流 DiT 和形状流 DiT 注入 LoRA 适配器、冻结纹理流 DiT,共训练约 930 万适配器参数。
Google DeepMind 发布 Gemini 4 Hydrogen,面向日常编码与智能体工作流,并在 Google AI Studio、Gemini API、Gemini app 和 Google Search 等全线开放。
推荐理由:原文给出 Hydrogen 与 Carbon、Argon 的定位分工及多项基准与定价,读者可据此判断它在多模型工作流中的位置。
AWS 提出 Agent Development Lifecycle(Agent DLC),用一个生命周期、两个循环和统一的验收标准来判定智能体的每次变更是否可上线。
针对智能体代用户检索内部文档时的越权风险,Amazon Bedrock 方案在 AgentCore Gateway 工具层用请求拦截器从已验证 JWT 中注入 userContext,再由 Managed Knowledge Base 的 ACL awareness 只返回该用户可见的文档。
AWS 发布基于 A2A 协议的多智能体参考架构,让跨组织智能体无需共享框架或密钥即可互相发现、通信与交换任务。
Agent Toolkit for AWS 的 amazon-bedrock 技能新增知识库迁移指南,让编码智能体协助把客户自管知识库迁移到 Amazon Bedrock Managed Knowledge Base。
《战锤 40,000:战争黎明 IV》将于 12 月 3 日登陆 Steam 并加入 GeForce NOW,由 KING Art Games 开发、Deep Silver 发行,含 70 多个战役任务。
OpenAI 承诺投入 200 万美元用于 AI 与儿童安全研究,支持共享工具以衡量青少年面临的风险与机会。
Holiday Extras 正借助 Codex 将客户专业知识转化为更好的应用、更高的预订转化率以及新的增长可能。
AWS 发布教程,演示 Java 团队如何用 Spring AI 2.0 与 spring-ai-agentcore 2.0 在 Amazon Bedrock AgentCore 上构建自主 AI 智能体。
Google Research 提出一套研究性机器学习框架,把可穿戴设备的被动信号转化为可干预的 coachable health age(可指导健康年龄),并用动作条件世界模型 SensorWM 模拟个性化的 12 周习惯改变轨迹。
AWS 团队在 SageMaker HyperPod 的 PyTorch DDP 训练循环中加入三项检查来检测静默数据损坏,包括 all-reduce 前后的 NaN/Inf 梯度检查、环形重放审计和权重指纹比对,并给出定位节点、隔离与替换的完整流程。
开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。该引擎不导入 Cedar、Dogwood、OpenShell、CEL 的原生策略,而是把相关语法编码为项并声明等式。它可用于对比 LLM 自动形式化多次生成的候选,先审查变化部分。
OpenAI Codex 可通过 Amazon Bedrock 调用支持的 OpenAI 模型完成推理,Codex 本身仍运行在开发者工作站上。
OpenAI 的 ChatGPT Ads 在 44 个国家扩大市场覆盖,Aleph 被选为这些国家的独家转售商。Aleph 将为品牌和代理商提供本地开票、线下支持和本地市场经验。
Amazon Bedrock 上线 Claude Haiku 5.5,据 Anthropic 称其为最强 Haiku,多数任务成本比 Claude Haiku 4.5 低约 75%,并首次支持 effort controls。