跳到正文

#部署/工程

今日 4 条
10月21日周三
  1. Hugging Face Blog71

    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布 TorchTPU 作为 PyTorch 原生后端接入其生态,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型只需指定 device_map="tpu" 或 pipe.to("tpu")。

    推荐理由:原文给出了安装命令、各库的接入方式和实测吞吐数据,读者可据此判断 PyTorch 在 TPU 上的迁移成本。

  2. AWS Machine Learning Blog58

    AWS Agent Registry 如何在运行时发现工具

    AWS 发布教程,介绍用 AWS Agent Registry 在运行时按需发现 MCP 服务器和 A2A 智能体,替代把工具硬编码进编排器。示例通过 Amazon Bedrock AgentCore Gateway 部署订单管理 MCP 服务器,编排器用混合关键词与语义搜索查询已审批记录,再依据描述符构建请求级客户端,鉴权凭据需另行获取。

10月20日周二
  1. AWS Machine Learning Blog33

    Amazon SageMaker JumpStart 2026 年回顾:新增 100+ 模型、覆盖 30 家提供商

    Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超过 100 个模型,来自 30 家不同提供商。其中 Alibaba(Qwen)贡献 29 个模型,NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron-3-Super-120B。新增模型重点覆盖多模态、量化与紧凑模型,以及图像视频生成能力。

  2. AWS Machine Learning Blog29

    Deepgram 如何用 AWS Trainium 优化大规模语音 AI

    Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案高 11%–70%。优化涵盖 TorchNeuron 编译、NKILib 融合内核替换及 Rust 数据并行运行时。

10月19日周一
  1. NVIDIA Blog38

    NVIDIA 与 EBU、Adobe 推进媒体行业智能体安全,从欧洲公共广播到全球内容生产

    NVIDIA 与欧洲广播联盟(EBU)扩大主权框架合作,引入主权云、开放模型和系统集成商,明确广播机构部署智能体时对数据、基础设施、模型与安全的控制方式。Adobe Frame.io 借助 NVIDIA GPU 加速视频语义搜索,嵌入生成约快 5 倍、吞吐量最高提升 4 倍、搜索延迟最高降低 5 倍,并推出比 360p 版本小约 80% 的 2fps 代理文件。

10月18日周日
10月17日周六
10月16日周五
10月15日周四
  1. AWS Machine Learning Blog34

    用 Amazon Bedrock AgentCore 构建自改进文档处理系统

    亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式 IDP 系统,由 8 个专用智能体组成识别与训练两条工作流,自动分类、提取、校验文档并从纠正中学习,新格式无需手工配置模板。系统基于 Strands Agents 编排,结合 Amazon Textract、S3 Vectors、Aurora DSQL 等,可在 20 分钟内完成部署。

10月14日周三
  1. NVIDIA Blog22

    NVIDIA 宣布投资 Boltz、Foresight、Hiverge、Prima Mente、Riverlane 等英国初创企业

    NVIDIA 宣布对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创企业进行新投资,并承诺五年 2.5 亿美元算力投入,用于加强英国智能体安全与安保研究。NVIDIA 同时以全球联盟创始合作伙伴身份加入 Earthshot Prize,提供算力与技术专长。