跳到正文

#教程/实践

今日 1 条
10月27日周二
  1. AWS Machine Learning Blog51

    Amazon Bedrock 上 OpenAI 模型的提示词缓存模式:为 AI 智能体降低重复上下文成本

    AWS 博客介绍在 Amazon Bedrock 上调用 OpenAI 模型时,如何用隐式与显式提示词缓存减少智能体每轮重复发送的工具、指令和历史。可缓存前缀需至少 1,024 tokens,缓存 TTL 至少 30 分钟,缓存写入按正常输入价格的 1.25 倍计费。在六轮测试中,GPT-6 Astra 的隐式缓存使输入成本降低约 62%,显式滚动断点降低约 61%。

10月24日周六
  1. AWS Machine Learning Blog58

    AWS 发布 SageMaker AI 多轮强化学习实操指南

    AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AgentCore 托管的智能体执行多轮动作,按整局结果给奖励。示例中 gpt-oss-20b 在留出词上的解谜率从 61% 提升到 84%,训练 token 花费约 339 美元。文章还给出奖励设计的两处反转错误和训练中遇到的失败,并建议在服务时的设置下做评测。

10月23日周五
10月22日周四
10月21日周三
  1. AWS Machine Learning Blog58

    AWS Agent Registry 如何在运行时发现工具

    AWS 发布教程,介绍用 AWS Agent Registry 在运行时按需发现 MCP 服务器和 A2A 智能体,替代把工具硬编码进编排器。示例通过 Amazon Bedrock AgentCore Gateway 部署订单管理 MCP 服务器,编排器用混合关键词与语义搜索查询已审批记录,再依据描述符构建请求级客户端,鉴权凭据需另行获取。

10月20日周二
  1. GitHub Blog · AI & ML36

    如何在 VS Code 中继续 GitHub Copilot 应用会话

    GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续,对话、代码改动和工作上下文均完整保留。VS Code 会加载该会话关联的 worktree,并在 Copilot 侧边栏显示原会话,用户可逐行审查 diff、手动编辑、本地运行测试,再将更新推送到会话对应的 pull request。

  2. AWS Machine Learning Blog29

    Deepgram 如何用 AWS Trainium 优化大规模语音 AI

    Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。

10月17日周六
10月15日周四
  1. AWS Machine Learning Blog34

    用 Amazon Bedrock AgentCore 构建自改进文档处理系统

    亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式 IDP 系统,由 8 个专用智能体组成识别与训练两条工作流,自动分类、提取、校验文档并从纠正中学习,新格式无需手工配置模板。系统基于 Strands Agents 编排,结合 Amazon Textract、S3 Vectors、Aurora DSQL 等,可在 20 分钟内完成部署。

10月14日周三
10月13日周二