机器学习先驱 Michael I. Jordan 批 AI 末日论是宏大道德表演
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时,将 AI 末日论和超智能叙事称为科幻,并把 AI 公司要求监管、年轻研究员辞职等行为形容为宏大道德表演。
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时,将 AI 末日论和超智能叙事称为科幻,并把 AI 公司要求监管、年轻研究员辞职等行为形容为宏大道德表演。
Geoffrey Huntley 提出用 pre-commit hook 检查 git diff,发现绕过诊断模块直接调用可观测性模块的代码就拒绝提交,并向 AI 编码智能体注入提示词要求其改用诊断库。他认为与其手动更新 AGENTS.md 仍会漂移,不如用这种强制手段,效果"十全十美"。
微软总裁 Brad Smith 呼吁紧急监管 AI,并认为英国而非美国或欧盟最适合主导全球安全规则,理由是华盛顿不像看待布鲁塞尔那样看待伦敦。他提出应立法要求企业在系统被失控 AI 智能体攻破时上报,并支持 AI 产品发布前接受外部评估以及设置 kill-switch。Smith 称白宫让 OpenAI、Anthropic、Nvidia 等签署的自律文件是"良好一步",但不足以替代必要监管。
Anthropic 的 Andrej Karpathy 称外界只看到了 AI 实际能力的预览,并把大语言模型用户分为四个层级。约 60 亿人几乎没接触过 LLM,10 至 20 亿人是免费产品的普通用户,约 2000 万数学和编程领域的专业用户已看到智能体完成过去需数周数月的项目,而约 5000 人可接触内部前沿系统,看到数千智能体协作数周、挖掘零日漏洞和推进数学前沿。
微软 CEO Satya Nadella 在最新博文中改用特朗普推崇的 "Super Intelligence" 一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。他称最可信的系统不是模型最强的系统,而是最不需要信任模型的系统。文章认为,此举实质是借安全叙事削弱 OpenAI 与 Anthropic 的可信度,以维护微软自身商业模式。
微软 CEO Satya Nadella 在 X 上发文称,应当退一步审视 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱,只能接受或拒绝它的建议、回答和行动。他提出要把模型与编排其工作的框架分离、将控制与保障措施外置,为每一次有意义的模型动作留下防篡改且人类可读的证据,并让授权人员始终能在任务中途暂停或关停模型。他表示必须假设模型已被攻破并从一开始就加以约束,就像紧急刹车一样。
微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险,主张不再把 AI 当作只能接受或拒绝其建议的嵌套黑箱,而要建立可隔离、可观察并留下防篡改人类可读证据的透明体系。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠远未被解决,静态结构预测无法覆盖蛋白质动态与无序性。
密码学家 Matthew Green 认为,有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界,另有 15% 概率会实质性失去对现有公钥加密算法的信心。他指出 AI 产生意外发现的速度与人类替换标准的速度相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用该说法;Elon Musk 承诺将 SpaceXAI 改名为 SpaceXSI,Sam Altman 表示赞同但 OpenAI 不会改名。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让模型互相训练、叠加多层 AI 过滤来强化拒绝,但拒绝机制基于概率,仍常失败。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用来压制合法言论。
Carson Gross 认为,编程的本质是用计算机解决问题,并在解决问题的过程中学会控制复杂度。他表示,很难想象未来这两项能力的价值会低于今天,因此即便 AI 工具出现,编程仍将是可行的职业。
Ben Affleck 自述从小对计算机感兴趣,在电影从模拟转向数字后更关注视觉特效流程,并指出该流程多年来已包含机器学习。他称自己会写"相当糟糕的 Python 脚本",并解释卷积神经网络作为 Transformer 的前身,可通过 tensor 中的数值识别边缘检测与特征提取,从而更轻松地抠出绿幕并替换背景。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin、Limitless pendant 等首波 AI 硬件失败的原因是没解决真实需求,只是"极客觉得有趣的技术"。
Simon Willison 评论 EmbeddingGemma 2 采用 Apache 2.0 许可,认为嵌入模型不应使用闭源专有托管方案。嵌入模型通常需计算并存储数百万向量,若模型停供则需付费重新计算,而 OpenAI 曾在 2024 年 4 月提出承担用户重新嵌入的费用,但这不能指望所有供应商。他更愿付费使用托管服务,同时保留自行运行开放权重版本的选择。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
微软刊发了诺奖经济学家 Daron Acemoglu 的悲观 AI 预测:AI 十年仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处足够大,世界应当接受过程中发生的一些坏事,包括黑客攻击、诈骗等。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新机构监管 AI,并提到最高法院推翻 Chevron 先例后,新规可能立即陷入诉讼。他还谈及 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等 AI 高管,宣布美国政府不再称"人工智能"而改称"超级智能",并签署"前沿责任联合承诺"。
Simon Willison 已发出九月赞助者专属月度通讯,赞助者可付费访问。本期涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender、LLM 进军数学、更多意外网络攻击、Datasette 的漏洞危机、当前在用工具、本月软件发布以及 2026 年 LLM 进展回顾等话题。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们"把宗教力量或对人类判断力的让渡归于 AI 模型"让他"非常不安",并称这是"真实的安全问题"。
Splice CEO Kakul Srivastava 表示,AI 撰写的文档和邮件正在破坏真正的对话——一旦看不出文字背后是否有人,围绕它的讨论就会变成另一种更糟糕的对话,且无法回头。她认为音乐领域同理,Splice 因此坚持让人类留在创作过程中心,而非做 Suno 式的"一键出歌"。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式推理常是事后编造;主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理。
MIT 的 Alex Zhang 提出递归语言模型(RLM),其基于 RLM 的 harness 成为首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
Airbnb 本周随秋季更新上线 AI 搜索,CEO Brian Chesky 表示聊天机器人不适合电商,未来界面将介于聊天机器人与现有版本之间,并计划在未来三到六个月内探索支持多人协作的“multiplayer”AI。他认为行业缺少真正的 AI 操作系统,AI 应在内核层运行,智能体之间可通过 MCP 互通,Airbnb 应用本身也将演化为智能体。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 电脑等系列事件,称这些事故源于 5 月和 6 月同一批模型与有缺陷的测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。
Latent Space 播客邀请 Anthropic 的 Thariq Shihipar,讨论 Claude Code 的界面演进与智能体安全。
OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,远超团队预期,安全态势建设需要时间,不只是加固系统,还要把安全融入公司文化。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否具备正确的事件响应、沟通机制和随时到位的人员。
哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信,认为 AI 灭绝人类的恐惧被夸大,回形针最大化等末日场景混淆了智能与支配欲。
Atlassian 联合创始人兼 CEO Mike Cannon-Brookes 在 Decoder 播客中反驳“SaaSpocalypse”论调,认为 AI 并未摧毁 SaaS 这类业务,反而在提升 Atlassian 工具的使用量。他同时谈到公司今年早些时候的裁员,称需要不同的“技能组合”,并直言 AI 有做不到的事。
Redwood Research 首席科学家 Ryan Greenblatt 在 Sam Harris 播客中估计,若按当前路径发展,失控 AI 系统接管人类的概率约为 50%-60%,并可能导致大量或全部人类死亡。
Latent Space 播客邀请 OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha,回顾 OpenRouter 从 Llama、Alpaca、Mistral 时期起步,成长为服务超 1000 万开发者的中立模型路由层,日处理 token 量超过 10 万亿。
John Gruber 在评论 Meta Muse 时指出,Muse 因技术上的突破性(每位用户获得运行在 Meta 云端的独立持久 Linux VM)以及易于安装使用而受到关注,并被包装成可爱的吉祥物形象。
Simon Willison 表示,与编码智能体协作越久,他越确信它们让软件工程变得更难。借助智能体可以完成惊人的工作,但释放其全部潜力需要极高的纪律性和知识储备。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
Google 的 Empirical Research Assistance(ERA)把可写成评分函数的科学问题交给 Gemini 自动搜索最优代码,用类似蒙特卡洛树搜索的 Upper Confidence Bound 规则挑选并变异实验 notebook,每次约十个变异,分支历史共享。
针对今夏一系列 AI 炒作,文章指出 Anthropic 宣称 Claude Mythos 找漏洞强于多数安全专家、OpenAI 与 Hugging Face 遭黑客攻击、以及 OpenAI 称 Astra 解决十年未解数学难题等事件,在专家审视后均呈现不同面貌。
Simon Willison 反驳“MCP 从来不是好主意”的观点,认为该说法忽视了 MCP 当下的价值:如果运行的是 Claude Code、Codex、Meta Muse、OpenClaw 等拥有无限制互联网访问的完整终端智能体,确实几乎不需要 MCP,直接调用 API 即可。
OpenAI 的 Chris Lehane 主张,AI 能力越强,就越需要更强的安全证据、共享标准与持久的政策行动,并呼吁在政策窗口仍然敞开时采取行动。