Amazon Bedrock Managed Knowledge Base 新增表格检索功能
Amazon Bedrock Managed Knowledge Base 新增表格检索,可在智能体检索中对 CSV、XLSX、XLS 文件按整表运行代码并给出带引用的答案。
Amazon Bedrock Managed Knowledge Base 新增表格检索,可在智能体检索中对 CSV、XLSX、XLS 文件按整表运行代码并给出带引用的答案。
Novo Nordisk 的 Tablet 制造技术团队基于 Amazon Bedrock AgentCore 构建了智能支持系统,让主题专家原本需要数小时或数天完成的工作缩短到几分钟。
Amazon Bedrock 的开放权重模型现已支持显式提示词缓存,用户可通过 Chat Completions API 的 prompt_cache_options 标记可复用前缀。缓存读取按低于标准输入的价格计费,重复使用同一前缀可降低输入成本与响应延迟;隐式缓存则自动按最佳努力复用前缀。提示词与输出不会共享给模型提供方或用于训练。
Amazon Bedrock Managed Knowledge Base 新增检索指令功能,可按租户定制回答的语气、格式、检索引导和回答策略。指令作为受管、带版本的 Amazon Bedrock 资源创建,请求可指定版本,默认使用 DRAFT,首个 Planning trace 事件会返回 appliedInstruction。
Amazon Bedrock Guardrails 的 Denied Topics 按语义而非关键词匹配内容,容易误伤含义相近的合法请求。文章以虚构的 AnyCompany Bank 客服助手为例,总结出八项最佳实践,核心是围绕用户意图而非主题领域来定义话题,并分别落实到名称、定义和示例三部分。
NVIDIA 在 SC26 上发布 Vera Rubin 平台的新 GPU Rubin HPC,用于加速科学、工程与分析工作流中的仿真和数据处理。该 GPU 单卡 CUDA 核心数超过 50,000,并具备稀疏数据加速能力和第七代 NVLink 互联,设计上让数据搬运与计算同步扩展。NVIDIA 称其预计 2028 年上市。
NVIDIA 在 SC26 上纪念 CUDA 发布 20 周年,目前已有超过 1100 万开发者在 CUDA 上构建应用。CUDA 于 2006 年 11 月在 SC06 发布,将 GPU 加速从图形扩展到科学与仿真领域,曾支撑 AlexNet 训练、AlphaFold 2 的 GPU 执行以及 HIV 衣壳结构解析等工作。NVIDIA 同时提供 1000+ CUDA-X 库。
NVIDIA Vera Rubin 平台首次提交 MLPerf 结果,在 MLPerf Training v6.1 的全部基准上均有成绩,Vera Rubin NVL72 每 GPU 性能最高达 GB300 NVL72 的 2 倍。
推荐理由:原文给出 Vera Rubin 在 MLPerf Training 与 Endpoints 的具体成绩和规模数据,读者可据此判断新一代平台在训练与智能体推理上的代际提升幅度。
NVIDIA 发布新版 Slurm,允许 QPU 厂商通过单个文件为所有超算中心提供统一硬件接口,已获 IBM、IQM、Pasqal、Quantinuum 等采用,并支持 QRMI 和 QDMI 接口。Slurm 26.11 将于本月晚些时候推出。配套的 CUDA-Q 平台新增 QEC 解码器服务器,新 TCBP-JOBS 解码器比行业标准快 13,000 倍。
Lambda 采用 NVIDIA Photonics 共封装光学(CPO)交换机,将 NVIDIA GB300 NVL72 机架中超过 1 万块 GPU 互联,实现更低功耗与更高韧性。
GS Caltex 用 Amazon SageMaker Canvas 和 SageMaker Pipelines 打通工艺工程师建模与生产工作流,ML 工程师部署模型的时间从约一周缩短到几小时。
英伟达团队演示了用 UR17G 机械臂、Robotiq 2F-140 夹爪和饮料罐在 Isaac Sim 6.2 中搭建抓取放置仿真,资产来自 Hugging Face 上的 SimReady Central 库。示例使用 GPT-6 Sol 生成并执行任务代码,完成抓取、抬升、移动和释放动作。运行前需检查关节限位与驱动设置、小幅运动及接触行为,避免资产静止时外观正常但仿真中动作出错。
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流用于 A/B 对比)。
OpenFold3-preview 已在 Amazon SageMaker JumpStart 上线,可在自有 AWS 账户中预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。V2 还会回收会话未使用的内存,使计费贴合实际用量。文章给出四种模式,包括用 build hook 预加载大文件、CLI 或浏览器,以及在用户打开应用或聊天窗口时后台预热会话。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的容量提供者运行语音转文字推理,单 GPU 跑一个模型、规模达数千实例。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并把身份与组织标签写入 CUR 2.0 和 Cost Explorer。
Amazon SageMaker HyperPod 推出 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个层级把线上推理的输入输出记录到 S3。
llama.cpp 与 ggml 发布 v1.0.0,并规定此后公共 C API 的破坏性变更将以主版本号递增来标记。项目已支持超过 150 种模型架构变体及主流投机解码方法,并通过 Docker、Homebrew、conda-forge、Winget、XCFramework 等渠道分发。
推荐理由:llama.cpp 与 ggml 同步发布 v1.0.0,并明确此后以主版本号标记 API/ABI 不兼容变更,下游集成方可据此规划升级。
NVIDIA 在医疗领域推动多项 AI 应用落地:Proximie 基于 NVIDIA Cosmos 3 打造手术室平台,已用于 700 多间手术室,使临床团队处理病例量提升 8%、手术室周转加快 45%、准时开台率提高 26%。
Natera 基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,将支持工单首次响应时间提升约 130 倍,自动化覆盖率达 96.2%。
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下改变 token 处理量与计费费率。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的模型开销,并给出计算真实模型成本的框架。文章拆解了 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四类隐藏成本驱动因素,示例中单价高 2 倍的模型因单轮完成、输出更短,单任务成本反而低 65%。
AWS 给出无需自写代码的方案,按 IAM 用户或角色追踪并限制 Amazon Bedrock 推理支出。Amazon Bedrock 自动记录每次推理请求的 IAM 主体身份,配合 principal tags 或会话标签、CUR 2.0 与 Cost Explorer 实现按身份的成本可见性,再用 AWS Budgets 预算操作在超阈值时下发 Deny IAM 策略。
AWS 发布新一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力扩展至 4 倍(最高 8 vCPU 和 32 GB)、运行效率提升最高 68%。
推荐理由:原文给出会话启动、算力上限与内存回收的具体变化,读者可据此判断智能体生产部署的成本与隔离取舍。
该方案用运行在 AWS Fargate 上的 LiteLLM 代理,将 Amazon Bedrock 封装为 OpenAI 兼容 API,并通过 Application Inference Profiles 实现按用户和按模型的成本控制与配额隔离。
AWS 提出 Agent Development Lifecycle(Agent DLC),用一个生命周期、两个循环和统一的验收标准来判定智能体的每次变更是否可上线。
针对智能体代用户检索内部文档时的越权风险,Amazon Bedrock 方案在 AgentCore Gateway 工具层用请求拦截器从已验证 JWT 中注入 userContext,再由 Managed Knowledge Base 的 ACL awareness 只返回该用户可见的文档。
AWS 发布基于 A2A 协议的多智能体参考架构,让跨组织智能体无需共享框架或密钥即可互相发现、通信与交换任务。
Agent Toolkit for AWS 的 amazon-bedrock 技能新增知识库迁移指南,让编码智能体协助把客户自管知识库迁移到 Amazon Bedrock Managed Knowledge Base。
AWS 发布教程,演示 Java 团队如何用 Spring AI 2.0 与 spring-ai-agentcore 2.0 在 Amazon Bedrock AgentCore 上构建自主 AI 智能体。
AWS 团队在 SageMaker HyperPod 的 PyTorch DDP 训练循环中加入三项检查来检测静默数据损坏,包括 all-reduce 前后的 NaN/Inf 梯度检查、环形重放审计和权重指纹比对,并给出定位节点、隔离与替换的完整流程。
开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。该引擎不导入 Cedar、Dogwood、OpenShell、CEL 的原生策略,而是把相关语法编码为项并声明等式。它可用于对比 LLM 自动形式化多次生成的候选,先审查变化部分。
OpenAI Codex 可通过 Amazon Bedrock 调用支持的 OpenAI 模型完成推理,Codex 本身仍运行在开发者工作站上。
Amazon Bedrock 上线 Claude Haiku 5.5,据 Anthropic 称其为最强 Haiku,多数任务成本比 Claude Haiku 4.5 低约 75%,并首次支持 effort controls。
Amazon Bedrock AgentCore 发布 Web Search API,开发者用一次 InvokeWebSearch 调用即可从 Amazon 自建网页索引获取带文本摘录的排序结果,无需先创建 Gateway 或管理 API key。
DXC Technology 基于 Amazon Bedrock 为 DXC OASIS 构建了多模型 AI 底座,统一接入 Anthropic Claude、Amazon Nova、Meta Llama 及开源权重模型家族。
AWS 提出一种事件驱动架构,用 CloudTrail、EventBridge 和 Lambda 自动同步 AWS Agent Registry 中 MCP 服务器的工具与 schema 变更。
AWS 将于 11 月 30 日至 12 月 4 日举办 re:Invent 2026,AI/ML 专场提供超过 140 场课程,覆盖 AI 芯片、模型训练与推理、智能体开发管理等 AWS AI 技术栈各层。