跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

最新精选

第 21–22 条 · 共 22 条
5月16日周六
  1. Google DeepMind62

    斯坦福团队用 Co-Scientist 筛选肝纤维化药物,两候选药在实验中阻断纤维化

    斯坦福大学医学院遗传学家 Gary Peltz 团队在《Advanced Science》发表研究,测试 Google DeepMind 的 Co-Scientist 能否从已有药物文献中筛选出可重定位治疗肝纤维化的候选药。

    推荐理由:斯坦福团队用 Co-Scientist 筛选肝纤维化药物,实验显示其候选药优于人工挑选,可观察 AI 辅助药物重定位的实际效果。

4月22日周三
  1. Google DeepMind62

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分为解耦的计算岛并异步传输数据,从而隔离局部硬件故障。该架构基于 Pathways 与 DiLoCo,测试中用混沌工程注入硬件故障后仍能继续训练并重新接入失效单元,用 Gemma 4 验证的 ML 性能与传统方法持平。

    推荐理由:原文给出跨数据中心异步训练的具体带宽与加速数据,读者可据此判断分布式预训练的工程可行性。