跳到正文

#部署/工程

今日 2 条
9月24日周四
9月23日周三
9月22日周二
  1. NVIDIA Blog22

    NVIDIA 埃及 AI 生态进入规模化生产阶段

    NVIDIA 在开罗大埃及博物馆举办活动,展示埃及 AI 生态从能力建设走向规模化落地,其 Deep Learning Institute 埃及学员规模一年增长超十倍。埃及已批准 Hassan Allam 建设运营数据中心,相关投资约 4 亿美元;Cassava 与 Vodafone Egypt 也宣布共建 AI factory,以 GPU-as-a-service 提供本地托管 AI 基础设施。

9月21日周一
9月17日周四
  1. GitHub Blog · AI & ML72

    GitHub 用 Copilot 把 Copilot 运行时迁移到 Rust

    GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust,代码主要由 AI 智能体编写,分布在 128 个合入 main 的 PR 中增量发布而非一次性切换。

    推荐理由:作者以亲历者身份给出把 80 万行运行时从 TypeScript 迁到 Rust 的完整工程细节,可迁移到大规模 Agent 协作开发。

9月16日周三
  1. NVIDIA Blog62

    NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1,吞吐最高达 GB300 NVL72 的 3.7 倍

    NVIDIA 在 MLPerf Inference v6.1 首次提交 Vera Rubin NVL72 预览成绩,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。

    推荐理由:MLPerf v6.1 首次提交给出 Vera Rubin NVL72 相对 GB300 的吞吐与扩展效率数据,可据此判断下一代推理平台的性价比走向。

  2. NVIDIA Blog71

    NVIDIA 在 AI Infra Summit 发布 Vera Rubin 与 DSX 平台进展,主打每瓦 token 能效

    NVIDIA 在 AI Infra Summit 上公布 Vera Rubin 系统、DSX 平台与 NVLink 6 的多项进展,核心指标从峰值性能转向每兆瓦可验证的智能体 token 数。

    推荐理由:NVIDIA 在 AI Infra Summit 集中给出 Vera Rubin、DSX 与 NVLink 6 的能效与吞吐数据,可据此判断 AI 工厂的供电与推理经济性走向。

9月15日周二
9月11日周五
9月5日周六
  1. GitHub Blog · AI & ML71

    GitHub 发布 Project HydraFusion:多模型编排实现前沿级编码质量

    GitHub 推出研究预览版 Project HydraFusion,通过运行时多模型编排为 Copilot 提供前沿级编码能力,用户可在 GitHub Copilot CLI 中通过 /experimental 选择该模型。

    推荐理由:GitHub 官方披露 HydraFusion 的三种编排模式与三项基准的成本质量对比,可据此判断多模型编排在编码任务上的取舍。

7月8日周三
7月7日周二
  1. Berkeley AI Research38

    智能免费之后怎么办?面向智能体、由智能体运行、由智能体构建的数据系统

    伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:为智能体设计的数据系统、运行智能体集群的数据系统、由智能体合成数据系统。GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间,中位数约 50x。

6月27日周六
6月25日周四
  1. Google Research34

    Google 用线性弹性缓存优化云成本:Spanner 内存用量降 15.5%

    Google Research 提出线性弹性缓存,把页面淘汰建模为滑雪租赁问题,用轻量机器学习动态调整缓存大小,在 Spanner 生产环境实测内存用量降 15.5%、缓存未命中仅增 5.5%、TCO 降约 5%。该方案用浅层决策树为每个页面预测 TTL,缓存写满时仍由 LRU 兜底,并已在公开缓存 trace 上验证。

6月13日周六
  1. Google Research48

    Google 支持加州大学圣地亚哥分校用 2000 部退役 Pixel 手机搭建低碳计算平台

    加州大学圣地亚哥分校在 Google 支持下,用 2000 部退役 Pixel 手机的主板搭建数据中心级计算集群,为数百名师生提供低成本、低碳的云计算。研究显示 25-50 部手机约等于一台现代服务器,20 部手机的集群已能支撑 75 人以上课程的评分负载且延迟低于 AWS 默认后端。该系统预计 2026 年秋季上线。

6月11日周四
5月17日周日
  1. Google DeepMind72

    Google 将 SynthID 与 C2PA 内容验证扩展到搜索、Gemini 和 Chrome

    Google 宣布扩展内容透明度与验证工具,把 SynthID 的图像、视频和音频验证从 Gemini 应用扩展到搜索,并将在未来几周进入 Chrome。SynthID 已为超过 1000 亿张图片和视频、6 万年音频打上水印,Gemini 中的验证功能已被使用 5000 万次。

    推荐理由:Google 把 SynthID 与 C2PA 验证铺到搜索、Gemini 和 Chrome,读者可据此了解内容溯源工具的实际覆盖范围。

4月22日周三
  1. Google DeepMind62

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分为解耦的计算岛并异步传输数据,从而隔离局部硬件故障。该架构基于 Pathways 与 DiLoCo,测试中用混沌工程注入硬件故障后仍能继续训练并重新接入失效单元,用 Gemma 4 验证的 ML 性能与传统方法持平。

    推荐理由:原文给出跨数据中心异步训练的具体带宽与加速数据,读者可据此判断分布式预训练的工程可行性。

4月20日周一
  1. Berkeley AI Research40

    GRASP:面向世界模型的基于梯度的长时程规划器

    Berkeley AI Research 提出 GRASP,一种面向学习动力学(世界模型)的基于梯度的规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接加入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的“状态-输入”梯度,使长时程规划变得可行。