跳到正文

#部署/工程

今日 3 条
10月23日周五
  1. MIT Technology Review · AI22

    EXL 谈如何设计可持续演进的 AI 服务框架

    EXL 提出企业 AI 的竞争优势正从选模型转向围绕模型构建的服务框架(serving harness),即架构、内存管理、调度与推理优化的工程系统。其主张先按业务负载确定约束再定架构,并以 KV cache 随并发与上下文增长导致 GPU 显存不足为例,强调先测量再优化。框架还应便于吸收新模型与硬件变化,使换模型成为评估与配置决策而非架构重建。

  2. TechCrunch · AI50

    Uber 让全部 3 万名员工使用 ChatGPT Work

    Uber 与 OpenAI 扩大合作,将 ChatGPT Work 推广至全球约 3 万名员工,此前该工具已在 1000 名员工中试点。Uber 工程副总裁 Sumanth Sukumar 称,早期使用者中约 80% 为非工程师,用于运营数据分析、培训材料本地化和个性化仪表盘等任务。Uber 未披露此次部署的支出,表示将跟踪员工使用方式和工作流效果。

10月22日周四
  1. Latent Space25

    Moshi CEO Anekha Sokhal 谈为大宗商品交易员打造推荐引擎

    Moshi 正在为大宗商品交易员构建推荐引擎,把市场信息与交易员持仓组合真正相关的部分连接起来。CEO Anekha Sokhal 称 Moshi 像是 Bloomberg、Claude 和 Netflix 的结合体:市场数据、操作界面加上针对交易员的推荐。她还在 AI Engineer New York 与 swyx 讨论了可信信源、文档抽取以及自建还是采购模型。

  2. MIT Technology Review · AI18

    Celonis 首席科学家 Devavrat Shah:企业 AI 需要上下文感知才能做出好决策

    Celonis 企业 AI 首席科学家 Devavrat Shah 提出"决策智能",认为 AI 智能体必须理解任务在业务流程中的角色与约束,否则会遗漏关键限制、犯错或浪费算力。他建议企业从具体业务决策入手,先找出最难环节再测试 AI 能否改善,并以速度与价值增益决定是否扩展。落地还需投入员工教育,让员工能理解 AI 输出而非直接交出决策权。

  3. NVIDIA Blog36

    企业如何用 NVIDIA DSX 破解 AI 工厂电力瓶颈

    NVIDIA DSX AI Factory Platform 正被全球企业用于把电网与 AI 工厂作为一套系统统一规划、仿真和运行。GE Vernova、日立能源、施耐德电气、西门子能源等厂商已基于该平台推出参考架构与数字孪生方案;Phaidra 集成 DSX Flex、DSX Max-Q 和 DSX Exchange 后,在同等功耗下多获得约 10% 算力。

  4. TechCrunch · AI36

    Blacksmith 获红杉领投 6600 万美元 C 轮,估值达 10 亿美元跻身独角兽

    Blacksmith 完成红杉领投的 6600 万美元 C 轮融资,估值达 10 亿美元。这家帮助企业对包括 AI 生成代码在内的软件进行构建与测试的平台称,其年度经常性收入增长 17 倍,已运行超过 9000 万个 CI 任务,客户包括 Mercury 和 Granola。此轮距其 4500 万美元 B 轮仅两个月,公司累计融资 1.25 亿美元。

  5. AWS Machine Learning Blog22

    U.S. Hunger 如何用 Amazon Quick 连接领导层与数据

    美国非营利组织 U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并将 SQL Server 数据每晚 2 点刷新至 SPICE 内存引擎。Quick Spaces 为领导团队提供共享的 KPI 定义、财务文档与分析空间,目前已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等职能。

  6. Hugging Face Blog60

    Dharma-AI 提出 VocabX:专门化 SLM 词表可将推理成本降低 77%

    Dharma-AI 团队提出 VocabX 方法,在不更换基座模型、数据和训练配方的前提下,围绕每个 token 的推理成本而非出现频率重建词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上将实测推理成本降低 77.0%。

    推荐理由:作者团队公开 VocabX 的词表专门化方法,读者可了解按生成成本而非词频选择 token 的思路与实测数据。

10月21日周三