在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管方式部署量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管方式部署量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上用两个 GPU 节点部署单个大语言模型,将 prefill 与 decode 阶段分离并统一在一个 OpenAI 兼容端点之后。
Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维任务变成透明的行政预算流程。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构,用于支撑 4000 万开发者的 API 测试、文档、发现与实现工作。
Hugging Face 作者 yuvraj sharma 与 Abubakar Abid 用 HuggingChat 中的 ML-intern 模式,在几天内做出六个模型。
推荐理由:作者用 ML-intern 在两天内做出六个模型,公开了完整提示词与每项算力成本,可迁移到自己的训练流程。
AWS 发布基于 Amazon SageMaker HyperPod 与 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统还把手动生命周期操作从 10 多步压缩为 1 次交互(减少 70%),并将冗余告警中位数削减 65%。三人团队用六个月完成交付。
AWS 提出一套六周结构化培养方案,让非工程背景的业务人员用 Strands Agents SDK、Amazon Bedrock AgentCore 和 Amazon Nova 模型构建可用的 AI 原型。
AWS 展示了一套自动化修复工作流,用 Amazon EventBridge 接收 AWS DevOps Agent 的调查完成事件,再由 AWS Lambda Durable Functions 调用 Amazon Bedrock 从预审工具白名单中选取修复动作。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量、变更韧性与维护经济性四个维度衡量 agentic automation 的价值。
在 Amazon Bedrock AgentCore 上运行开源智能体系统 OpenClaw,可构建具备持久记忆的上下文感知 AI 助手。AgentCore memory 将一次性对话转为持久知识,并支持结构化元数据标记以检索相关记忆;文本与图像分别路由至 Claude Haiku 4.5 和 Claude Sonnet 4.5。
基于 Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic 和 Amazon Bedrock Knowledge Bases,可在航空公司应用中搭建语音旅行助手,让旅客通过语音查询行程、改座位、更新餐食偏好并转接人工客服。
针对多团队共享 Amazon SageMaker HyperPod 集群的治理难题,AWS 提出组织、项目、集群、工作负载四层控制模型,并说明如何通过 SageMaker Unified Studio 将已批准的 HyperPod 集群接入项目,同时保留底层 IAM、Amazon EKS 与 Slurm 控制。
Anthropic 的 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Sonnet 5 已上线 AWS GovCloud (US) 区域的 Amazon Bedrock,为 ITAR 等受监管工作负载提供 AI 辅助开发通道。
Amazon Quick 控制台不支持将用户从 Admin 或 Author 直接降级为 Reader,update-user API 也会以“You cannot downgrade a user role”报错拒绝。
Amazon Bedrock Managed Knowledge Base 现已支持智能体检索,通过 AgenticRetrieveStream API 将多部分问题拆解为子查询、执行检索、判断证据是否充分并在不足时再次搜索,而 Retrieve API 仅执行单次混合搜索。
Amazon Quick 资源跨账户迁移可通过部署在 Amazon Bedrock AgentCore 上的 MCP 服务器实现自动化,支持 agent、action connector、knowledge base、flow 和 space 五类资源的幂等迁移。
OpenAI 发布 GPT-6 系列模型指南,面向初创公司讲解如何选择 GPT-6 模型、调节推理强度、优化提示词与技能、协调工具调用,并为生产环境准备工作流。
亚马逊在 Amazon SageMaker AI 上推出多轮强化学习(MTRL)能力,用于微调搜索智能体,并以 Qwen3.6-27B 为例完成训练。MTRL 将智能体任务建模为多轮决策序列,通过多轮 rollout 生成数据并用策略梯度优化,支持 PPO、CISPO、IS 损失与 GRPO 等优势估计器。
Amazon Bedrock AgentCore Gateway 可将 Claude Desktop 接入 Web Search,让模型突破训练知识截止限制,查询由 Amazon 网页索引支持的实时信息。
AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成,模型只负责把自然语言翻译成固定类型操作并复述结果。该模式通过完整性回执保证"已扫描=合规+违规+模糊+不可读",避免 RAG 的抽样盲区和 text-to-SQL 的静默缩小风险,适用于租约合规、制裁筛查、保险理赔等场景。
GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用它、不轻信 AI 的首次答案、用 AI 节省的时间去解决更大的问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明它用第二个模型对计划、代码和测试进行批判性审查,从而发现首个模型遗漏的问题。
ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功经验定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步动态调整。该流程在 EnterpriseOps Gym 上做了演示,任务由系统规范、用户提示词和验证器三部分组成,需满足可行性、真实性与难度要求。
AWS Professional Services 构建了一套四智能体模式,在 Amazon Bedrock AgentCore 上运行,通过 MCP 工具连接源与目标系统,将每个应用的基础设施即代码(IaC)开发时间从 3 到 4 周缩短至几分钟。
Amazon Bedrock AgentCore 支持构建"环境感知智能体"(ambient agent):由 Amazon S3 事件或定时任务触发,在 AgentCore Runtime 上运行作业,需要时通过单个 ask_human 工具暂停等待人工审批,再从中断处恢复。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)为产品获客漏斗做个性化内容选择,七周在线 A/B 测试中,一个人群组的最终漏斗转化率取得高个位数相对提升,另一人群组则无改善。团队按申请开始、提交、审批三个阶段各跑一个 LinUCB 模型并线性组合其 UCB 分数,以缓解单阶段优化带来的此消彼长问题。
NVIDIA NeMo Agent Toolkit(NAT)可通过自定义 memory provider 接入 Amazon S3 Vectors,作为多智能体系统的持久记忆层,并部署在 Amazon EKS 上。
AWS 发布指南,介绍如何通过专用 AI Services 账户为 Claude Platform on AWS(CPonAWS)配置三种推理访问方式:AWS 工作负载账户经跨账户 SigV4 调用、开发者笔记本使用工作区级 API key、外部环境通过 OIDC 联合获取短期凭证。
uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调,并做提示词层面的输出优化,使其适配自身零售审核策略。
AWS 官方博客演示如何在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线:作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例的 NVIDIA L4 上运行 ACE-Step 渲染音频,交付智能体读取共享卷上的 .wav 做测量与 DSP 处理,合规智能体独立复测并比对曲库相似度。
推荐理由:AWS 官方给出三智能体共享 GPU 实例的完整代码与实测耗时,可迁移到长时多智能体工作流。
Amazon Bedrock Knowledge Bases 支持通过 AgenticRetrieveStream API 用自然语言查询理赔文档,并返回带引用的答案。
Condé Nast 与 AWS 生成式 AI 创新中心合作,基于 Amazon Bedrock 和 Amazon OpenSearch Service 构建多模态视频检索方案,采用 TwelveLabs Marengo 嵌入模型联合编码画面、音频与转录文本信号,将单次内容检索耗时从 250 分钟降至 2 分钟以内。
AWS 发布基于 Amazon Quick 与 Amazon Bedrock AgentCore 的合同智能平台方案,用 AI 智能体从合同 PDF 中抽取八个关键字段并交叉验证,签名识别分歧由 Amazon Textract 裁定。该方案将结构化结果存入 Amazon Aurora PostgreSQL,通过嵌入式仪表盘和自然语言查询同时支持组合级聚合与单份合同检索,典型情况下数秒处理一份合同。
AWS 发文拆解 Amazon Quick 各组件的提示词写法:Quick Research 需明确目标、受众与时间范围,并自行拆解子问题、限定数据源;Quick Flows 要写清触发时间、数据源、计算逻辑与交付对象,复杂流程用编号步骤,并可通过对话迭代修改。Quick Sight 的查询则需包含业务问题、指标、维度和可视化偏好。
Amazon Quick 的提示词工程决定其 AI 功能对自然语言请求的响应质量,官方发布两部分系列的第一部分,聚焦适用于各 Quick 组件的通用原则与可复用框架。
AWS 发布教程,演示如何用 vLLM-Omni DLC 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。
AWS 发布教程,演示在 SageMaker AI 上从同一个 vLLM-Omni DLC 部署两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词经 Amazon S3 传给视频端点,最终取回 MP4,并提供命令行与 Streamlit 界面。
AWS 介绍了一种基于 Amazon Nova Act 和 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用自然语言动作替代 Selenium、Playwright 的 DOM 选择器脚本。
AWS 发布跨账户自动化管理 Amazon Textract 适配器生命周期的方案,通过将适配器 ID 外置到 AWS Systems Manager Parameter Store,生产环境适配器引用更新无需重新部署应用,原本需数小时至数天的协调工作缩短至数秒。
GitHub Copilot 应用中的 canvas(画布扩展)是一种用户与智能体共享的可定制界面,可做成看板、issue 分诊板、发布清单或仪表盘。在 agent 会话中输入 /create-canvas 并用自然语言描述工作流、界面操作和智能体权限,即可生成界面并在右侧面板打开,无需手写代码。