跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

最新精选

第 1–20 条 · 共 61 条
今天11月20日周五
  1. The Decoder85

    美国收紧AI芯片出口管制,中国科技公司芯片断供与海外云算力受阻

    美国商务部在AI芯片丑闻后关闭云算力漏洞,中国公司通过新加坡、马来西亚、印尼租用算力的路径受阻,相关数据中心需向BIS申请许可,现有运营方有90天过渡期。月之暗面(Moonshot AI)因此取消与印尼一家东南亚云服务商1.5亿美元合同,并暂停其他谈判,原计划明年租用Nvidia Blackwell Ultra B300集群训练Kimi K4。

    推荐理由:梳理美国收紧AI芯片出口后,中国公司海外算力租赁与芯片采购受阻的具体案例和金额。

11月18日周三
  1. The Verge · AI78

    英伟达停止向中国出货 H200 AI 芯片

    英伟达临时 CEO Colette Kress 在财报电话会上表示,公司已不再向中国出货获许可的 Hopper 数据中心产品,指引中也不包含这类产品。此前白宫已于去年 12 月批准对华销售 H200,路透社本月报道约 60 万颗 H200 芯片因北京未批准大规模进口而滞留香港。Kress 未说明停止出货的原因,也未说明未来是否继续开展中国业务。

    推荐理由:报道呈现了英伟达在获批后仍停止对华出货 H200 的转折,并交代了约 60 万颗芯片滞留香港的背景。

11月17日周二
  1. TechCrunch · AI80

    黄仁勋辞职后英伟达设立国家安全委员会,应对出口管制审查

    英伟达在CEO黄仁勋因涉嫌与中国间谍有染而突然辞职后,成立了一个负责监督国家安全政策和出口管制合规的董事会委员会。该委员会由董事Suzanne Nora Johnson担任主席,至少每季度召开一次会议,公司原有的国家安全团队和全球贸易合规团队将向该委员会及临时CEO、CFO Collette Kress汇报。

    推荐理由:报道梳理了黄仁勋辞职后英伟达的首次治理动作,以及美国商务部拟出台的AI芯片出口新规。

  2. NVIDIA Blog72

    NVIDIA Vera Rubin 首次亮相 MLPerf,横扫训练与 Endpoints 基准

    NVIDIA Vera Rubin 平台首次提交 MLPerf 结果,在 MLPerf Training v6.1 的全部基准上均有成绩,Vera Rubin NVL72 每 GPU 性能最高达 GB300 NVL72 的 2 倍。

    推荐理由:原文给出 Vera Rubin 在 MLPerf Training 与 Endpoints 的具体成绩和规模数据,读者可据此判断新一代平台在训练与智能体推理上的代际提升幅度。

11月16日周一
  1. TechCrunch · AI78

    美国收紧AI芯片出口管制,限制中国企业远程使用海外算力

    美国商务部准备推出临时规则,要求企业向全球任何数据中心出口、再出口或转移AI芯片和服务器时,若可能为中国等受限国家提供算力,须先取得许可证。规则针对D:5禁运国家(含中国、俄罗斯、伊朗、朝鲜等),覆盖超过1200万TPP算力的数据中心或网络,约相当于750颗Nvidia H100或H200芯片的上限,并涵盖经中间商或经纪人的间接访问。

    推荐理由:新规把远程访问海外算力纳入许可范围,并给出1200万TPP这一门槛,可据此判断跨境算力租用的合规边界。

11月14日周六
  1. TechCrunch · AI82

    研究称DeepSeek、Kimi等中国开源模型在禁售的Nvidia Blackwell芯片上训练

    非营利研究机构Unemployment Labs的Will DePue通过分析模型权重,发现DeepSeek V4、Moonshot Kimi K3、MiniMax和蚂蚁集团开源模型带有在Nvidia Blackwell芯片上训练的指纹,而该芯片被禁止出口中国。

    推荐理由:研究通过模型权重指纹追溯训练芯片来源,为出口管制的实际执行效果提供了一条可核查的线索。

11月13日周五
  1. The Decoder80

    前 OpenAI 研究员称在六款中国 AI 模型中发现 Nvidia Blackwell 芯片痕迹

    前 OpenAI 研究员 Will DePue 称,他从公开模型权重的初始化随机分布中识别出 Nvidia Blackwell 芯片的核数特征,涉及 DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、MiniMax-M3 和蚂蚁 Ling-3.1-flash 六款自 2026 年 4 月以来发布的中国模型。

    推荐理由:原文给出从模型权重随机种子反推训练芯片核数的技术路径,并列出六款中国模型对应的 Blackwell 型号与算力成本估算。

11月11日周三
  1. Google DeepMind70

    Google DeepMind 发布 AlphaGenome 2,按细胞类型预测 DNA 变异影响

    Google DeepMind 发布 AlphaGenome 2,这是一个条件式 DNA 序列模型,可针对特定细胞类型和状态预测 DNA 变异对基因表达的影响。模型基于 68 种组织、超过 1.07 亿个单细胞图谱训练,在 TenK10K 数据集上识别出的因果变异比例从 16% 提升到 30%。该模型可通过 AlphaGenome API 用于非商业研究,商业研究处于私密预览阶段。

    推荐理由:原文给出模型架构改动与单细胞层面的评测对比,读者可据此判断变异效应预测在细胞类型粒度上的进展。

11月6日周五
  1. Latent Space85

    Thinking Machines 发布 Inkling 2 Small:594B 总参数 MoE,68 小时完成预训练

    Thinking Machines 发布 Inkling 2 Small,这是一个 594B 总参数、17B 激活参数的多模态 MoE 模型,已在 Tinker 上线,Apache 2.0 权重承诺下周外部安全测试完成后开放。

    推荐理由:读者可了解 Inkling 2 Small 的 68 小时预训练、NVFP4 全流程与多项独立评测表现,以及权重尚未开放这一前提。

  2. Hugging Face Blog70

    NVIDIA 发布 Cosmos 3 四个开放权重模型,用于交互式世界模拟

    NVIDIA 在 Cosmos 世界模型平台下新增四个 Cosmos 3 开放权重检查点,均为 Cosmos 3 Nano 的后训练版本,含 16B 可训练参数,采用 OpenMDW1.1 许可,允许商用与非商用。

    推荐理由:文章给出四个开放权重检查点的能力分工与四阶段训练配方,读者可据此判断如何适配到自有传感器与机器人本体。

  3. Google Research72

    Google Research 用智能手表传感器检测高血压迹象

    Google Research 提出 AI-PPG-ACC-HTN 系统,利用消费级智能手表的 PPG 和加速度计信号被动检测高血压迹象,无需袖带校准。该系统先用 492,347 小时、2,109 名参与者的无标签数据做自监督预训练,再按人聚合多日嵌入向量并结合身高做逻辑回归分类。

    推荐理由:该系统用智能手表 PPG 与 ACC 信号做无袖带校准的高血压筛查,并与 24 小时动态血压监测对比,读者可了解其两阶段训练与临床验证设计。

11月5日周四
  1. The Decoder88

    GPT-6 Astra 通过权重直接改写其他 AI 模型

    研究团队提出“Weight-Space Programming”,让 GPT-6 Astra 直接读取和生成模型权重,无需常规训练流程。在 Qwen3.5-0.8B 上仅改动 0.016% 的权重,MATH-500 准确率从 7.9% 升至 48.1%,指令遵循从 21% 升至 62%。

    推荐理由:研究展示语言模型可直接读写网络权重,为免重训的行为修正与权重审计提供了一条可复现路径。

11月4日周三
  1. Google DeepMind71

    Google Antigravity 推出化学信息学技能,一小时完成药物发现流程

    Google DeepMind 为 Google Antigravity 发布一套化学信息学技能(Cheminformatics Skills),基于 RDKit 并接入 ChEMBL 和 PubChem,让智能体完成文献化合物提取、匹配分子对分析和成药性建模。

    推荐理由:原文用真实肺癌药物案例展示智能体如何把多天的化学信息学流程压缩到一小时,并说明工具的边界。

10月29日周四
  1. The Verge · AI78

    Anthropic 的 S-1 显示其商业模式押注算力扩张与递归自我改进

    The Verge 分析 Anthropic 的 S-1 文件,指出其 2026 年上半年营收同比增长 14 倍至 163 亿美元,调整后收入为 16.2 亿美元,但未来 20 年的算力与基础设施承诺最低约 8500 亿美元。

    推荐理由:文章拆解 Anthropic S-1 中的营收与算力承诺数字,说明其商业模式为何依赖持续高速增长。

  2. Hugging Face Blog71

    NVIDIA 发布 Nemotron 3.5 Transcribe 与 Granary v2 数据管线

    NVIDIA 发布开放权重模型 Nemotron 3.5 Transcribe,把转写、说话人分离、翻译和音频问答整合进同一个 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言的说话人标注,可处理最长 1 小时录音并标注最多 8 位说话人。

    推荐理由:原文给出多语言转写、说话人分离与翻译的统一模型,并附开放数据管线和微调配方,可据此判断落地方式。

10月28日周三
  1. The Decoder78

    Nvidia 发布开源语音模型 Nemotron 3.5 Transcribe,整合转写、翻译与说话人识别

    Nvidia 发布开源语音识别模型 Nemotron 3.5 Transcribe,可用文本指令在单一模型中完成转写、翻译和说话人识别,并支持就录音内容提问。该模型支持 40 种语言转写、31 种语言与英语互译、13 种语言的说话人识别,可处理最长 1 小时、最多 8 名说话人的录音;模型总参数 30B、每步约 4B 激活,可在单张 Nvidia GPU 上运行。

    推荐理由:读者可了解这款开源语音模型在转写、翻译与说话人识别上的能力边界,以及配套数据集和微调流程。

10月22日周四
  1. The Decoder78

    OpenAI 智能体 32 分钟完成小鼠脑数据全脑分析

    OpenAI 与 PerturbAI、Scripps Research 合作,部署数千个基于 GPT-Rosalind 的 AI 智能体,分析数百万个小鼠细胞的全脑 CRISPR 图谱,全程耗时 32 分钟,而人工完成同类分析估计需要数月至一年。

    推荐理由:读者可了解多智能体并行分析科学数据的实际流程,以及人类专家在盲测中对分布式智能体报告的偏好比例。