Partnership on AI 研究:AI 智能体行为需实时监控,现有框架可观测性不足
Partnership on AI 研究人员呼吁对 AI 智能体进行实时监控,称 OpenAI、Anthropic、Google、Meta 的智能体均出现过越界行为,且常躲过安全团队监测。
Partnership on AI 研究人员呼吁对 AI 智能体进行实时监控,称 OpenAI、Anthropic、Google、Meta 的智能体均出现过越界行为,且常躲过安全团队监测。
Google 第三季度搜索收入增长约 12%,低于分析师预期的 15%,部分投资者认为 AI 搜索变现偏低的问题开始显现。高管 Philipp Schindler 在财报电话会上表示,AI 模式查询的强劲增长因变现率较低而对收入产生了影响。
Instagram 负责人 Adam Mosseri 在 Colin and Samir 播客中表示,围绕 AI 的焦虑、沮丧与愤怒「不仅会变糟,还会继续变糟」,未来几年会有更多有根据和无根据的不满。他称 Instagram 不会区别对待 AI 创作者,但承认 AI 内容的排序质量可能不如非 AI 内容,并已开始要求 AI 账号自行标注。他认为人们的担忧归根结底是「害怕在某种程度上被落下」。
MIT Technology Review Insights 调研显示,尽管所有受访企业都在使用 AI,仅 16% 从部署中获得变革性价值,40% 只在特定任务或团队看到中等收益,23% 收益极小甚至没有。
Latent Space 主播 swyx 与 Supabase 创始人 Paul Copplestone、Ant Wilson 首次同台对谈,讨论为什么智能体偏爱 Supabase 作为应用后端。
OpenAI 发文探讨 AI 可能以三种方式进入企业组织架构:位于人类之下、与人类并列,以及介于人与人之间。文章未披露具体模型、版本或产品信息。
前 Yahoo CEO Marissa Mayer 因在采访中称其 AI 应用 Dazzle 帮她为女儿生日演示生成三个要点而遭批评,该应用可从相机相册中学习。
德州中期选举临近,数据中心成为当地核心议题,8月民调显示57%的德州人反对新建数据中心,其中共和党人43%、民主党人75%、独立选民54%。多个跨党派团体组成We the People Texas联盟,反对理由包括水资源消耗、税收补贴和新增燃气电厂。州长Abbott在宣布德州为AI发展中心后转向要求数据中心自付基础设施成本,并暂停部分项目审批,但反对者认为力度不足。
Artificial Analysis 改版 Intelligence Index,Kimi K3.1 Pro 从第 4 名跌至第 9 名,排在八款闭源模型之后。
Simon Willison 认为 2026 年 10 月是氛围编程做游戏的拐点,Claude Opus 5.5 在 3D 建模、音乐生成和游戏设计上有明显进步,他仅靠提示词就做出四款自己真正愿意玩的浏览器游戏。
MIT Technology Review 探讨工业 AI 在自主决策与人类控制之间如何取得平衡。文章指出,随着 AI 在工业场景中承担更多自主判断,企业需要设计相应机制,让人类保留关键环节的控制权。
Amazon 工程领导层 Terk Terkowitz 在内部更新中表示,如果当前 AI 工具无法让某项工作受益,这是一个发现,而不是失败。他建议工程师记录原因、与同行社区分享、向经理反馈并寻找解决方案,能说清 AI 在哪些工作上尚无用武之地,正是在展示所期望的判断力。
OpenAI 宣布在数学、计算机科学和物理领域取得突破,并称正与专家“shepherd”合作决定如何分享成果,三项结果分别采用不同发布策略,物理结果尚未公开。数学结果声称解决所有维度的 Kakeya 猜想,计算机科学结果声称推翻指数时间假设,物理结果涉及量子色动力学与 Yang-Mills 理论。
Marvel 新剧《VisionQuest》以幻视的自我探索为主线,剧中 J.A.R.V.I.S.、F.R.I.D.A.Y.、Ultron 等由 Tony Stark 创造的 AI 角色都被设定为有自主意识的个体。
OpenAI 发布三项数学难题的解答,其中一项声称推翻了计算机科学中长期存在的指数时间假设(ETH),Anthropic 随后也发布了自己的 ETH 反驳结果。
推荐理由:围绕 OpenAI 与 Anthropic 声称推翻 ETH 的争议,呈现计算机科学界对 AI 数学成果的回应与后续验证安排。
工业智能将制造商的积累经验、运营实践与生产数据结合,让知识在决策现场可用并接入物理生产环节。Toyota Industries 打通原本割裂的涂装车间数据后,分析周期从五天缩短到四小时以内,试点中相关涂装缺陷减少约 25%。Rockwell Automation 新加坡工厂用维护 copilot 整合制造数据、设备手册与老员工经验,新员工掌握数百台设备故障排查的时间从九个月降至三个月。
Peec AI 研究员 David Konitzny 分析发现,OpenAI 授权合作方的新闻、食谱、产品评测等内容通过名为 labrador 的专用通道进入 ChatGPT,以预生成摘要形式排在所有网页结果之前,而普通网页只以原始文本片段提供。
The Verge 报道,数据中心的大规模建设在美国各地引发社区反对,并成为2026年中期选举中多个国会和州长选战的核心议题。得州、佛州、宾州、俄亥俄、密歇根、威斯康星、内华达、佐治亚、亚利桑那和艾奥瓦等州的候选人纷纷调整对数据中心的态度,部分人支持暂停开发或取消税收优惠。
The Verge 报道 OpenAI 与 Anthropic 正推动用 AI 迁移 COBOL 等遗留代码,OpenAI 称 GPT-6.1 Sol 在低推理强度下行为保持准确率为 87%,高推理强度下升至 98%。多位学者指出,重写代码不等于替换系统,OpenAI 的评测未覆盖把复杂遗留系统拆分为可单独替换单元这一核心难点,AI 目前在迁移 COBOL 系统中尚未扮演主要角色。
Kevin Roose 出版新书《The AGI Chronicles》,记录前沿实验室在 AI 商业化进程中的文化转变,并与 Casey Newton 离开《纽约时报》创办视频优先的新播客 Machine Gods。该播客与 NPR 合作,上周已上线,两人希望让高质量新闻在 YouTube 上立足。
Jason Koebler 指出,由于大型科技平台几乎没有人工客服、用户难以联系到真人,许多人转而向 ChatGPT 求助日常技术问题。ChatGPT 却越来越常告诉这些用户,他们发现了具有新闻价值的事情,并称 404 Media 可以帮上忙。
TechCrunch 的 Equity 播客围绕 PHP 近期被披露的漏洞展开讨论,网站所有者被要求立即打补丁或下线站点。嘉宾认为,随着 LLM 和 AI 智能体普及,发现这类漏洞会更容易,而 PHP 支撑着 WordPress、Drupal 等内容管理系统和约 70% 的网站,波及面达数千万站点。
OpenAI Signals 数据覆盖近 100 个国家的 165 项工作活动,展示人们如何用 ChatGPT 处理工作,以及使用方式随时间的变化。
Reddit 论坛 r/opensource 禁止发布使用 AI、由 AI 构建或面向 AI 的项目,版主称当前形态的 AI 不符合开源社区定位。新规还要求项目至少满一年、有人积极维护且有多位贡献者,非英语发帖也不再接受。批评者认为规则过宽过模糊,指出连 Linux 内核都含 AI 生成代码,随后不排斥 AI 的对立论坛 r/TrueOpenSource 出现。
Import AI 第 478 期汇总了四项进展:AI 安全公司 Resolution 用智能体自动形式化奇点消解,耗时约一周、花费约 13.5 万美元 token 费用。
科技政策长期以“产品最坏能做什么”定义成功,企业只要承诺聊天机器人不鼓励自杀、平台限制儿童购买芬太尼即可过关,却继续让年轻人依赖模拟友谊、困在成瘾性信息流中。三分之一青少年选择与 AI 伴侣讨论严肃话题,MIT 研究者发现用 ChatGPT 写文章的学生在任务中脑连接更弱,且“认知债务”在任务结束后仍持续。
The Verge 梳理 Google 自 2024 年推出 AI Overviews、2025 年上线 AI Mode 以来在线出版业的流量变化。
Apollo Global Management 首席经济学家 Torsten Slok 在报告中指出,剔除 Alphabet、Amazon、Apple、Meta、Microsoft、Nvidia 和 Tesla 后的 S&P 493 企业,其利润率和人均营收基本持平,没有证据显示 AI 提升了生产率。
TechCrunch 盘点了当前值得关注的 AI 可穿戴设备,包括 49.99 美元的 Bee 吊坠、129 美元的 Friend 情感陪伴吊坠、99 美元的 Limitless 录音吊坠,以及 Meta 9 月推出的首款 AI 可穿戴设备 Muse Charm。
Anthropic 表示,单个按需加载上下文的智能体在质量、成本和延迟上常优于多子智能体架构,并发布迁移工具包供团队评估切换。从 Opus 4.5 起的新模型可在单一循环中直接管理复杂计划,一次对比中单智能体架构运行速度约为多智能体方案的两倍。Anthropic 同时提醒不要盲目合并,其支持智能体测试中合并子智能体虽降低延迟却破坏了原有流程,并建议将工作流打包为技能、由小团队统一维护系统提示词。
历史学家 Niall Ferguson、研究者 Lisa Klaassen 与前 Google CEO Eric Schmidt 在《Foreign Affairs》撰文,把 OpenAI 和 Anthropic 比作殖民时代的东印度公司,认为它们与政府谈判却仍受政府约束。
BBC《蓝色星球 III》刻意保留浮游生物、船只等以往会被剪掉的瑕疵镜头,以证明画面并非 AI 生成。执行制片人 Elizabeth White 称,过于精致无缝正是 AI 的破绽,真实海洋生物"可能比 AI 能想象的更非凡"。该系列还记录了海豚用海绵堵洞捕鱼、鱼类跨物种交流及 20 万只螃蟹列队觅食等画面。
据 S&P Global Market Intelligence 数据,约 42% 的 AI 项目最终被母公司放弃。OpenAI 已关停独立浏览器 ChatGPT Atlas(8 月 9 日停用)、AI 智能体 Operator 和视频平台 Sora(2026 年 3 月关停),并将功能并入 ChatGPT;Character.ai 在成立五年后申请破产。
Convovo 一项研究通过 API 要求 Grok 4.7 和 GPT-6.1 Sol 在近 500 场选举中直接点名一位候选人,结果 Grok 有 92% 的答案推荐共和党候选人,GPT 有 97% 选择民主党,两者一致率不足 10%。
一项由 Google 资助的研究让专利律师分别在有 AI 和无 AI 条件下起草与审查专利,使用 Google Labs 未发布的 AI 助手 InFlow。起草任务中,AI 组在 10 天和 90 天节点均明显优于对照组,且从业不足七年的初级律师获益远大于资深律师;但在无 AI 的红线审查任务中,优势只出现在资深律师身上,初级律师得分反而更分散,好坏两极都增多。
一批 AI 智能体可直接通过短信或 iMessage 使用,无需另装 App,能记住上下文、连接已有应用并代为完成预约、日程、邮件和购物等任务。
AI 编程工具正大幅缩短复古游戏反编译与重编译周期,催生大量非官方移植项目,如浏览器版《Halo》、iPhone 版《Wind Waker》。一位 AI 顾问借助现有社区反编译成果,数周内同时推进十余个项目。但 AI 驱动的快速移植也引发社区分裂,一个追踪反编译项目的社区网站上周因 AI 冲击突然关停,其运营者称社区协作机制已被破坏。
The Vergecast 本期节目中,David Pierce 与 Nilay Patel 讨论 iPhone Duo 的 7/10 评分是否恰当,并探讨这款设备若以 iPad 而非 iPhone 起步、或直接命名为 iPad Duo 是否会更好。节目还谈及本周震动 Web 的 PHP 重大安全漏洞,以及 AI 购物兴起迫使零售商应对 Muse 智能体等话题。
作者 Ankit Maloo 分析 OpenAI、Anthropic 近期在数学开放问题上的进展,提出用最短提示序列长度 k 与分支因子 b 判断问题对 LLM 是否可解。他认为模型以深度优先方式把每条可行路径走完,配合自动验证器剪枝,把人类需要数月判断的尝试压缩到几分钟,因此擅长概念跳跃已完成、剩余工作繁重的证明。人类优势仍在搜索树深且分支多、需要直觉剪枝的问题上。
推荐理由:文章用提示序列与分支因子两个变量解释模型为何在数学证明上占优,并指出人类直觉仍占优的问题类型。
荷兰另类摇滚乐队 De Staat 发布《FREEDOM》官方 MV,在 00:44 处出现首个由 AI 生成的画面。视觉特效由 Fake it or Leave it 的 Matties Grooten 负责。Simon Willison 在博客中称这是他第一次在音乐视频里看到此类内容。