用 AWS CDK 在 Amazon Bedrock Managed Knowledge Base 上构建智能体检索
文章演示如何用 AWS CDK 在 Amazon Bedrock Managed Knowledge Base 上部署企业级智能体检索系统。
文章演示如何用 AWS CDK 在 Amazon Bedrock Managed Knowledge Base 上部署企业级智能体检索系统。
AWS 博客介绍在 Amazon Bedrock 上调用 OpenAI 模型时,如何用隐式与显式提示词缓存减少智能体每轮重复发送的工具、指令和历史。可缓存前缀需至少 1,024 tokens,缓存 TTL 至少 30 分钟,缓存写入按正常输入价格的 1.25 倍计费。在六轮测试中,GPT-6 Astra 的隐式缓存使输入成本降低约 62%,显式滚动断点降低约 61%。
AWS 发布基于 SageMaker Python SDK v3 的车队级边缘计算机视觉模型生命周期方案,用 SageMaker Neo 取代已弃用的 SageMaker Edge Manager 做边缘优化。
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AgentCore 托管的智能体执行多轮动作,按整局结果给奖励。示例中 gpt-oss-20b 在留出词上的解谜率从 61% 提升到 84%,训练 token 花费约 339 美元。文章还给出奖励设计的两处反转错误和训练中遇到的失败,并建议在服务时的设置下做评测。
Bayer Crop Science 基于 Amazon Bedrock AgentCore 构建了多智能体自然语言界面 Agentic Decision Engine(ADE),第一阶段约 80% 的用户问题无需工程师介入即可解决。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 扩缩容目标。
OpenAI 通过可靠的多租户架构、全局缓存和 Azure Cosmos DB 扩展 Habitat 存储系统,使 ChatGPT 的读取速度提升 12 倍。该系统需支撑超过 10 亿 ChatGPT 用户。
在 Amazon SageMaker AI 的实时端点上托管 Kokoro-82M 语音合成模型,把 AI 智能体生成的每个句子即时送入合成,让音频在完整回复生成前就开始播放。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产。
针对自托管 TTS 端点自动扩缩容目标值靠猜的问题,AWS 在 Amazon SageMaker AI 实时端点上部署 82M 参数的 Kokoro-82M 自定义容器,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
AWS 解决方案架构团队开源了多智能体数据分析系统 Deep Insight,并总结生产化中的 5 个核心挑战:执行流控制、各智能体模型选型、生产运行、AI 生成代码的安全执行、监控运维。
AWS 发布方案,通过 AWS PrivateLink 的 VPC 端点与 Quick 的 VPC 连接,让 Amazon Quick 在不经过公网的情况下访问企业防火墙后的本地数据源。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层对请求分类,常规任务由 Ollama 本地 SLM 处理,复杂分析经 boto3 路由至 Amazon Bedrock。
在单台 trn2.48xlarge 上,torchtitan 可通过 TorchNeuron 将 Trainium 注册为原生 PyTorch 设备,并以三种方式训练 Qwen3-4B-Instruct-2507:Transformers v5 后端、torchtitan 原生 Qwen3 实现,以及挂载 NKI MoE kernel。
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的推理性能 trace。
i14 与 AWS 合作,通过 TorchNeuron Native 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留其 GLA 设计与 Muon 优化器。
Smartsheet 正式推出 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,用于探索、创建和管理 sheet、行、列与自动化。
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台,将每个用例的部署时间缩短 50%。该平台为 Reliance 质量管理系统嵌入 2 亿级文档,并通过 AgentCore Gateway 隔离执行、Bedrock Guardrails 双重过滤保障租户数据不越界。
GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%),团队在 Amazon SageMaker HyperPod 上用 LoRA 结合 SFT 与 GRPO 进行微调。
Amazon Quick 与 Amazon Bedrock AgentCore 组合,让供应链管理者用自然语言跨系统提问并直接获得可执行答案。演示中一次查询识别出 TechComp 停产风险:$750K 受影响、23 笔订单、三天库存,并自动串联治理与报价 MCP 生成紧急 RFQ。
Eon 用 Amazon Bedrock AgentCore 的 MCP Gateway 替换了逐工具凭证和本地 MCP 进程,让开发者和自主 SRE 智能体通过单一认证网关统一访问 AWS、GCP、Azure 三朵云上的调查工具。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为基于 MCP 的 AI 智能体建立可验证、可撤销的加密身份。
AWS 发布教程,介绍用 AWS Agent Registry 在运行时按需发现 MCP 服务器和 A2A 智能体,替代把工具硬编码进编排器。示例通过 Amazon Bedrock AgentCore Gateway 部署订单管理 MCP 服务器,编排器用混合关键词与语义搜索查询已审批记录,再依据描述符构建请求级客户端,鉴权凭据需另行获取。
三位拥有十余年 Java 经验的 Java Champion 分享了在生产与开源项目中使用 GitHub Copilot 的具体实践。Vlad Mihalcea 借助 Copilot 将原本需数周的 Optimizer 事件历史 Web 应用缩短至两天完成,并用 65 篇文章训练自定义 skill 模仿自己的写作风格。
AWS 博客演示用 AtScale 作为语义层、Amazon Bedrock AgentCore 托管 Strands 智能体,构建 Customer 360 场景。
AWS 发布教程,演示以 Strategy Mosaic 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体,通过 MCP 端点访问跨 Amazon Redshift 与 Amazon Aurora 的 Customer 360 模型。
本文演示用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体,联邦查询 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 三处数据源。
GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续,对话、代码改动和工作上下文均完整保留。VS Code 会加载该会话关联的 worktree,并在 Copilot 侧边栏显示原会话,用户可逐行审查 diff、手动编辑、本地运行测试,再将更新推送到会话对应的 pull request。
AWS 团队介绍 vLLM 中的双向 KV 传输机制,让 decode 节点在后续轮次把已计算的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。
vLLM 新增 push 模式的 NIXL connector,把 prefill 后的传输协调与建链从关键路径移到 prefill 侧后台线程,减少首 token 等待。
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。
AWS 销售、营销与全球服务(SMGS)运营团队基于 Amazon Bedrock AgentCore 搭建了面向全球 AWS 现场销售的多智能体系统,并用 AgentCore Evaluations 构建全生命周期评估框架。
亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式 IDP 系统,由 8 个专用智能体组成识别与训练两条工作流,自动分类、提取、校验文档并从纠正中学习,新格式无需手工配置模板。系统基于 Strands Agents 编排,结合 Amazon Textract、S3 Vectors、Aurora DSQL 等,可在 20 分钟内完成部署。
基于 Amazon Bedrock AgentCore 的 AI 智能体系统可自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒完成。
Amazon SageMaker JumpStart 提供预训练模型目录,可用 SageMaker Python SDK 部署模型、运行轻量可复现的性能测试,并在测试完成后删除端点。
Amazon Bedrock 的托管权益(managed entitlements)支持从中心账户一次性订阅 AWS Marketplace 私有定价优惠(MPPO),再向组织内多账户分发模型访问权限。
针对 MoE 模型在解码阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 通过 Swap-AB 转置让专家维度 N=8192 进入首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及更高版本。
AWS 博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它构建工具调用智能体。
推荐理由:通过 72 次可复现的智能体运行,量化了 Grok 4.7 不同推理档位在准确率与 token 成本间的取舍。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。
GitHub Copilot 可通过四种方式定制项目上下文:仓库级自定义指令(.github/copilot-instructions.md)、封装可复用流程的 agent skills(.github/skills)、面向复杂任务的 custom agents(.github/agents),以及连接外部工具与数据的 MCP 服务器。