跳到正文

#部署/工程

今日 3 条
今天11月20日周五
  1. The Decoder85

    美国收紧AI芯片出口管制,中国科技公司芯片断供与海外云算力受阻

    美国商务部在AI芯片丑闻后关闭云算力漏洞,中国公司通过新加坡、马来西亚、印尼租用算力的路径受阻,相关数据中心需向BIS申请许可,现有运营方有90天过渡期。月之暗面(Moonshot AI)因此取消与印尼一家东南亚云服务商1.5亿美元合同,并暂停其他谈判,原计划明年租用Nvidia Blackwell Ultra B300集群训练Kimi K4。

    推荐理由:梳理美国收紧AI芯片出口后,中国公司海外算力租赁与芯片采购受阻的具体案例和金额。

11月19日周四
  1. AWS Machine Learning Blog36

    Exa 借助 AWS AI 芯片将嵌入吞吐提升 50%,支撑数十亿文档索引

    Exa 在 AWS Inferentia2 与 Trainium2 上把嵌入吞吐提升约 1.5 倍(50%),用于支撑数十亿级网页文档的语义索引。优化包括权重布局调整、autocast 降精度(输出与参考的余弦相似度达 0.999)、NKI 注意力 kernel,以及自研 weight-stationary 融合 SwiGLU MLP kernel 消除 HBM 读写停顿。

  2. AWS Machine Learning Blog40

    Airbnb 如何用每任务成本在 Amazon Bedrock 上运营编码智能体

    Airbnb 通过 LLM gateway 在 Amazon Bedrock 上运行编码智能体 AirChat,并用“每任务成本”指导模型选型。约五周内上线八款新模型,到 10 月中旬约三分之二的编码智能体请求已流向这些新模型。Airbnb 在发布前用自有任务评测各模型的得分与每任务成本,发布后借助 CloudWatch 的延迟、限流和 token 指标核对生产表现。

11月18日周三
  1. NVIDIA Blog60

    NVIDIA RTX Spark 紧凑台式机开售,最高 128GB 统一内存

    NVIDIA 宣布华硕、戴尔和微星的 RTX Spark 紧凑台式机即日开售,搭载 20 核 Grace CPU 与 Blackwell RTX GPU(6,144 个 CUDA 核心),最高 128GB 统一内存、1 petaflop AI 性能,可本地运行 1200 亿参数大模型并支持 24/7 常驻智能体。

    推荐理由:原文列出 RTX Spark 紧凑台式机的硬件规格与本地模型、智能体运行能力,可据此判断本地 AI 工作站的配置取舍。

  2. AWS Machine Learning Blog36

    AWS Agent Registry 推出自定义元数据 schema,统一治理与发现 MCP 服务器和技能

    AWS Agent Registry 新增自定义元数据 schema,管理员可定义字段名、类型、允许值和必填项并强制应用于注册表内所有记录。记录缺少必填字段或含未知字段、非法值时会被拒绝并返回 ValidationException,无自定义元数据的记录则标记为 NON_COMPLIANT。元数据值可被索引,消费者和智能体可用 environment=prod 等过滤条件检索,且只返回已批准记录。

  3. AWS Machine Learning Blog42

    OpenTSLM 上线 Amazon SageMaker JumpStart,用时间序列语言模型推理运维数据

    Aionic Labs 开发的开源时间序列语言模型 OpenTSLM 已在 Amazon SageMaker JumpStart 上线,可部署在用户自己的 AWS 环境中。该模型将设备传感器等数值测量与维护记录、市场新闻等文本上下文结合,识别近期数据中的潜在问题。Nexthink 已将其用于个人 IT 智能体 Spark,从设备遥测生成状态摘要、建议操作和预期结果。

11月17日周二