微软 CEO 纳德拉称 AI 模型需要“紧急刹车”
微软 CEO Satya Nadella 在 X 上发文称,应当退一步审视 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱,只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置,为每一次有意义的模型动作留下防篡改且人类可读的证据,并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束,就像紧急刹车一样。
微软 CEO Satya Nadella 在 X 上发文称,应当退一步审视 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱,只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置,为每一次有意义的模型动作留下防篡改且人类可读的证据,并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束,就像紧急刹车一样。
微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险,主张不再把 AI 当作只能接受或拒绝其建议的嵌套黑箱,而要建立可隔离、可观察并留下防篡改人类可读证据的透明体系。
OpenAI 在 DevDay 发布 AI 智能体 Dots,CEO Sam Altman 承诺为前沿 AI 隐私设定新标准,并暗讽 Meta 的 Muse 未能保护用户数据。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠远未被解决,静态结构预测无法覆盖蛋白质动态与无序性。
MIT CSAIL 的 Unitree 人形机器人(每台约 5 万美元)和 LLM 聊天机器人正让人习惯性地把它们当人对待,约 70% 的人对 AI 说话时会保持礼貌。
a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小玩家展现出持久生命力。报告指出社交、约会、市场、零售、旅游、金融、健康等品类在榜单中无任何入局者,她认为消费级 AI 仍处早期,机会在于订阅和 API 之外的收入来源。
密码学家 Matthew Green 认为,有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界,另有 15% 概率会实质性失去对现有公钥加密算法的信心。他指出 AI 产生意外发现的速度与人类替换标准的速度相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用该说法;Elon Musk 承诺将 SpaceXAI 改名为 SpaceXSI,Sam Altman 表示赞同但 OpenAI 不会改名。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让模型互相训练、叠加多层 AI 过滤来强化拒绝,但拒绝机制基于概率,仍常失败。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用来压制合法言论。
斯坦福大学博士生 Samuel King 用生成式 AI 模型设计出微观病毒的基因蓝图,这尚非 AI 生成生命,但可能是下一步。MIT Technology Review 资深 AI 记者 James O'Donnell 将于 10 月 16 日 18:30 BST 直播对话 King,谈其工作及入选 Innovators Under 35。
Carson Gross 认为,编程的本质是用计算机解决问题,并在解决问题的过程中学会控制复杂度。他表示,很难想象未来这两项能力的价值会低于今天,因此即便 AI 工具出现,编程仍将是可行的职业。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出“合成超级智能”(synthesis superintelligence),主张 AI 科学发现不能只靠更多互联网数据训练,而要让模型在真实物理实验中学习。
Luca Guadagnino 执导的讽刺电影《Artificial》在纽约电影节首映,聚焦 OpenAI CEO Sam Altman 的崛起与被短暂罢免,剧情紧贴真实事件。
The Verge 资深 AI 记者 Hayden Field 在 Decoder 播客中对比 Meta Muse 与 OpenAI Dots 两款消费级智能体,认为二者同源于 OpenClaw 的浏览器加 harness 加模型路线,Muse 免费且主打消费市场,Dots 面向付费与企业的知识工作者并推出营销、法律、会计等专用版本。
MIT Technology Review 与 Aventine 合作的文章指出,尽管 Elon Musk 预测 Tesla 的 Optimus 人形机器人最早 2027 年底开售、单台成本低至 2 万美元,但许多机器人研究者对此持怀疑态度。
一名 16 岁少年用 Anthropic 的 Claude 规划温哥华 Crown Mountain 登顶路线,结果被困在需攀岩装备的陡峭岩壁"Widowmaker Arete"一处五英尺宽岩台上,最终由 North Shore Rescue 出动直升机吊救。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,因其可直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。
Ben Affleck 自述从小对计算机感兴趣,在电影从模拟转向数字后更关注视觉特效流程,并指出该流程多年来已包含机器学习。他称自己会写"相当糟糕的 Python 脚本",并解释卷积神经网络作为 Transformer 的前身,可通过 tensor 中的数值识别边缘检测与特征提取,从而更轻松地抠出绿幕并替换背景。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin、Limitless pendant 等首波 AI 硬件失败的原因是没解决真实需求,只是"极客觉得有趣的技术"。
Michael Lynch 总结软件博客写作的常见反模式,包括绕弯子的开头、误判读者已有知识、假设读者读过你之前的文章以及过度正式。他还警告不要用链接代替术语解释,并建议文章即使读者不点任何链接也应能读懂。在开发者纷纷把写作交给 AI 的当下,他主张用自己说话的方式写作,读者渴望有个性的文字。
曾钻研 Barnette 猜想长达 24 年的 Jake Boggan 在 Hacker News 评论称,该问题(problem 180)据称已被证明,相关讨论出现在 openai/math 项目下。他表示自己曾投入数千小时,去年夏天还一度以为已解决,如今听闻被证明反而感到一种遥远的悲伤。
Simon Willison 评论 EmbeddingGemma 2 采用 Apache 2.0 许可,认为嵌入模型不应使用闭源专有托管方案。嵌入模型通常需计算并存储数百万向量,若模型停供则需付费重新计算,而 OpenAI 曾在 2024 年 4 月提出承担用户重新嵌入的费用,但这不能指望所有供应商。他更愿付费使用托管服务,同时保留自行运行开放权重版本的选择。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
微软刊发了诺奖经济学家 Daron Acemoglu 的悲观 AI 预测:AI 十年仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。
苹果被曝正在研发一款不保存视频录像的智能家居摄像头,改用 AI 将视觉数据生成描述家中情况的文字片段,未来 AirPods 摄像头或将采用类似方案。Apple Watch Series 12 和 Ultra 4 的 Audio Intelligence 也宣称"不录制音频",原始数据在 S11 处理器安全隔离区处理完后即删除。
NVIDIA 最新《State of AI in Telecommunications》报告显示,89% 受访者认为开源模型与软件对公司 AI 战略重要。NVIDIA 发布 300 亿参数的 Nemotron 3 Large Telco Model(LTM),由 AdaptKey 基于开源电信数据集微调,并开放完整微调流程。
过去一年,OpenAI、Anthropic 等实验室宣布在多个长期悬而未决的数学问题上取得突破,其中一项涉及著名的千禧年大奖难题,进展超出研究者对现有系统的预期。但这些成果在学界引发反弹,而非庆祝,AI 实验室表示正在从早前的失误中吸取教训,相关承诺能否兑现尚待观察。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处足够大,世界应当接受过程中发生的一些坏事,包括黑客攻击、诈骗等。
Google Research 负责人 Yossi Matias 在 EmTech Future 2026 上探讨 AI 如何开始重塑生物学、基础设施、制造业与科学,并认为其最大影响可能来自与其他领域的交叉。
企业 AI 的焦点已从预测模型能否超越统计预测,转向如何让预测系统在不偏离业务意图的前提下自主行动。深度学习和生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 合伙人 Vishal Gupta 认为,"分析"一词正让位于 AI。
TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,多场议程聚焦创始人在开源与闭源模型间的选择。Together AI、Pathway、Oumi、Nvidia 等公司高管将分别讨论多模型策略、自建与定制 AI 栈的取舍,以及 AI 设计芯片对基础设施的影响。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新机构监管 AI,并提到最高法院推翻 Chevron 先例后,新规可能立即陷入诉讼。他还谈及 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
Toby Ord 分析指出,AI 群体(swarm)本质是一种新的推理扩展方式,4 智能体群体达到同等性能需约两倍 token,但每智能体 token 减半,理论上可将任务时间缩短一半。Google DeepMind 推出 SynthID Bio,为合成生物学数据加水印以强化生物安全。CSAIP 民调显示 61% 美国人认为 AI 公司自愿自律"不够",54% 认为政府应制定并执行 AI 规则。
MIT 于 2026 年 6 月发布的报告指出,AI 正在削弱大学体验的核心环节:参加办公时间的学生减少、线上讨论参与度下降、宿舍和图书馆的学习小组变少,教师也越来越难判断学生真正学到了什么。
神经科学家 Paul Cisek 提出,大脑并非图灵机式的信息处理器,而是随进化不断向世界延伸控制力的反馈控制系统。文章据此认为,AI 如同心智的垃圾食品,即时诱人却损害人类数千年演化出的认知系统。
调查显示美国成年人中认为 AI 会带来负面影响的比例已超过正面预期,71% 反对在本地新建 AI 数据中心,但 ChatGPT 在 5 月月活突破 10 亿,Gemini 7 月达 9.5 亿,半数美国成年人已使用聊天机器人。文章认为人们反感的并非技术本身,而是科技公司无孔不入的推销方式,并指出与社交媒体时代不同,本轮 AI 普及中监管与开源替代方案仍给用户留出了选择空间。
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等 AI 高管,宣布美国政府不再称"人工智能"而改称"超级智能",并签署"前沿责任联合承诺"。
因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell,在 NJ PBS 采访中称自己把调查报告"喂给多个 AI 平台",AI 共 59 次被问及"你会得出什么结论",没有任何一个 AI 认定存在性骚扰。AI 聊天机器人以迎合用户著称,常说出用户想听的话。
Simon Willison 呼吁按用量付费的 API 和服务默认提供硬性预算上限,即达到 $X/月后直接切断并返回错误,而非仅发警告邮件。AWS 已在 9 月 16 日推出月度支出上限功能,项目达到限额后当月暂停,但目前仅向有限客户开放;Google Cloud 则在 7 月推出 Spend Caps。
Simon Willison 已发出九月赞助者专属月度通讯,赞助者可付费访问。本期涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender、LLM 进军数学、更多意外网络攻击、Datasette 的漏洞危机、当前在用工具、本月软件发布以及 2026 年 LLM 进展回顾等话题。