跳到正文

#部署/工程

今日 2 条
11月5日周四
  1. AWS Machine Learning Blog50

    AWS Quick 推出 Smart Approvals:为 AI 智能体保留必要的人工审核

    AWS Quick 上线 Smart Approvals,用独立的分类器模型对照用户请求评估符合条件的操作,自动批准或退回人工审核,且不额外授予权限、不取消强制人工审批。该功能默认开启,管理员可通过 Custom Permissions 控制使用范围,用户也可自行关闭。自动批准为单次有效,仅适用于被审核的确切操作与参数,相关权限事件记录在 AWS CloudTrail 中。

11月4日周三
  1. AWS Machine Learning Blog38

    Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用

    Cartesia 基于自研 State Space Model(SSM)架构的 Sonic 文本转语音与 Ink 语音转文字模型,在 AWS 上实现低于 100ms 的首字节延迟。Sonic 首音频字节约 90ms,支持 44 种以上语言、10 秒音频样本克隆音色;Ink 原生支持对话轮次检测与流式转写。两者面向实时语音智能体,可在 AWS 上部署以满足数据主权与合规需求。

  2. AWS Machine Learning Blog33

    用 Amazon Quick 打通结构化与非结构化数据

    Amazon Quick 通过 S3 知识库接入非结构化文档、通过增强数据集接入结构化数据,并用单个对话式 AI 智能体统一查询两类数据。用户可在 Space 工作区中组合两类数据源,自定义聊天智能体自动判断查询知识库、数据集或两者,并返回带引用的合并回答。该方案要求 Enterprise 订阅,S3 桶默认只读权限,回答遵循提问用户的权限。

11月3日周二
11月2日周一
10月31日周六
  1. AWS Machine Learning Blog36

    如何端到端管理 Amazon Bedrock 成本:面向 FinOps 与平台团队的实操手册

    AWS 提出用五步闭环管理 Amazon Bedrock 生成式 AI 成本:归因、可观测、预算强制、平台默认优化与定期复盘。Amazon Bedrock 可将推理成本自动归因到发起调用的 IAM 主体,调用方 ARN 写入 CUR 2.0 的 line_item_iam_principal 列,覆盖 IAM 用户、角色、联合身份与 API key。

10月30日周五
  1. AWS Machine Learning Blog55

    用 Kiro 构建可重复的 PHP 到 Java 迁移引擎

    AWS 博客介绍如何用 AI IDE Kiro 把 PHP 到 Java 迁移做成可重复流程,核心是一套共享技能文件、一个发现扫描器和八阶段工作流。扫描器 discover-models.php 以单文件、无依赖方式读取源码 token,输出包含字段、类型转换和关系的 JSON 清单,并把歧义项放入人工复核队列。

  2. AWS Machine Learning Blog40

    MoEngage 如何用 AgentCore Gateway 将 400 多个 API 变成智能体工具

    MoEngage 借助 Amazon Bedrock AgentCore Gateway,把约 400 个 VPC 私有 REST API 转成权限受控的智能体工具,节省约六个月平台工程投入,新 API 接入从数天缩短到数小时。该方案放弃为 25 个团队各建 MCP server 的做法,由 AI 平台团队统一维护 MCP 层,团队只需提供 OpenAPI spec,全程无公网端点。

10月29日周四
10月28日周三
  1. AWS Machine Learning Blog34

    Exowatt 用 SageMaker 无服务器模型定制,精度超越前沿模型且成本低至 1/49

    Exowatt 基于 Amazon SageMaker AI 无服务器模型定制,用 Qwen3-1.7B 和 Qwen3-14B 分别构建边缘告警分诊与云端能源市场分析模型,精度超过前沿模型,成本最高降低 49 倍。该流程通过 LoRA 与 SFT 微调,配合 SageMaker 无服务器评估和 Model Registry,将原始运营数据到可部署模型的周期从数月缩短到数天。

  2. AWS Machine Learning Blog40

    Property Finder 如何修正评估偏差,在 Amazon Bedrock 上选出更优模型

    Property Finder 发现其评估标签中 96.8% 直接来自现有视觉语言模型的预测而非人工核验,导致任何替代模型在对比中天然处于劣势。团队重新人工标注 356 张 UAE 图像,将单标签改为多标签分类,并通过 v0 到 v27 的提示词优化循环在 Amazon Bedrock 上选型,最终实现准确率提升且成本降低 86%。

10月27日周二
  1. AWS Machine Learning Blog51

    Amazon Bedrock 上 OpenAI 模型的提示词缓存模式:为 AI 智能体降低重复上下文成本

    AWS 博客介绍在 Amazon Bedrock 上调用 OpenAI 模型时,如何用隐式与显式提示词缓存减少智能体每轮重复发送的工具、指令和历史。可缓存前缀需至少 1,024 tokens,缓存 TTL 至少 30 分钟,缓存写入按正常输入价格的 1.25 倍计费。在六轮测试中,GPT-6 Astra 的隐式缓存使输入成本降低约 62%,显式滚动断点降低约 61%。