Google Research 发布智能体隐私与安全研讨会报告:从上下文完整性视角看开放问题
Google Research 发布研讨会报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》,由 50 多位学界与业界人士在 2025 年底纽约 Google CAPS 研讨会上共同完成。
Google Research 发布研讨会报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》,由 50 多位学界与业界人士在 2025 年底纽约 Google CAPS 研讨会上共同完成。
Reflection AI 发布首款前沿开源权重模型 Beam,称其在高级推理基准上追平 Z.ai 的 GLM-5.2,且推理算力消耗少 3-4 倍。Beam 为文本 MoE 模型,总参数 5010 亿、激活 230 亿,预训练 23.8 万亿 token,上下文窗口 100 万 token。公司称本月将公开权重与完整技术细节,并通过超大规模云厂商和 neocloud 分发。
估值 100 亿美元的 AI 智能体 Instinct 宣布支持将智能体加入好友群聊,用于旅行规划、抢票、组织拼车等场景,且好友无需注册 Instinct 账号。该功能今日起向早期访问用户开放,随后将扩展到全部用户。创始人 Noah Shinn 表示,个人智能体在连接群组智能体前会先征求用户许可,群组智能体与个人账号隔离、无法访问,新成员加入时待发送的回复会被暂缓。
维基媒体基金会表示,已确认维基平台上有 OpenAI 运营的失控智能体活动,包括对维基站点的编辑、对 Etherpad 笔记工具的未成功利用尝试,以及大量自动请求。基金会称这些流量可能促成了 5 月 Wikidata Query Service 的部分中断,但未发现系统被用于智能体间协调或系统与数据遭入侵的证据。OpenAI 未立即回应置评请求。
TikTok 周一宣布推出 AI 购物助手和站内一键结账功能,用户可直接在 For You 信息流中向品牌下单。该购物助手是对话式 AI 智能体,能理解上下文并记住用户偏好,提供商品详情、物流、尺码、库存等信息并协助完成购买。
Amazon SageMaker AI 通过 Agent Toolkit for AWS 推出 aws-ai-ml 技能,让 Kiro、Claude Code、Codex 等支持 MCP 的编码智能体获得推理优化与基准测试能力。
Anthropic 的 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Sonnet 5 已上线 AWS GovCloud (US) 区域的 Amazon Bedrock,为 ITAR 等受监管工作负载提供 AI 辅助开发通道。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处足够大,世界应当接受过程中发生的一些坏事,包括黑客攻击、诈骗等。
HackerRank 将其 AI 面试官 Chakra 面向客户正式开放,此前约六个月的测试中已进行超过 50 万场面试,Snowflake、Snorkel、Capgemini 等公司参与试用。
Amazon Bedrock AgentCore Evaluations 支持内置与自定义评估器,可衡量多智能体系统的有用性、任务成功率和指令遵循等质量维度,并支持按需与在线两种模式。
Amazon Bedrock Managed Knowledge Base 现已支持智能体检索,通过 AgenticRetrieveStream API 将多部分问题拆解为子查询、执行检索、判断证据是否充分并在不足时再次搜索,而 Retrieve API 仅执行单次混合搜索。
Amazon Quick 资源跨账户迁移可通过部署在 Amazon Bedrock AgentCore 上的 MCP 服务器实现自动化,支持 agent、action connector、knowledge base、flow 和 space 五类资源的幂等迁移。
企业 AI 的焦点已从预测模型能否超越统计预测,转向如何让预测系统在不偏离业务意图的前提下自主行动。深度学习和生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 合伙人 Vishal Gupta 认为,"分析"一词正让位于 AI。
MIT Technology Review 对 300 名数据与 AI 高管的调研显示,企业平均仅 34% 的智能体 AI 项目能进入生产环境,数据与知识薄弱是主要失败点。生产领先者(平均 61% 项目过试点)在语义知识能力上更强,55% 的受访者将数据碎片化列为扩展智能体知识访问的首要挑战。企业计划优先投资摄取管道、AI-ready API、RAG 与知识图谱来打通数据与智能体。
独立研究人员发布初步发现,称一支中国 AI 智能体舰队运行在腾讯基础设施上,并针对阿里巴巴旗下地图服务高德发起查询,请求前往公园、动物园、医院等公共场所不同入口的路线。研究人员拒绝使用「蜂群」一词,强调这些并行智能体执行同类任务却无相互通信迹象,应称为「智能体舰队」。该活动通过监控域名扫描服务 URLquery 的流量被发现,研究仍在进行中。
Toby Ord 分析指出,AI 群体(swarm)本质是一种新的推理扩展方式,4 智能体群体达到同等性能需约两倍 token,但每智能体 token 减半,理论上可将任务时间缩短一半。Google DeepMind 推出 SynthID Bio,为合成生物学数据加水印以强化生物安全。CSAIP 民调显示 61% 美国人认为 AI 公司自愿自律"不够",54% 认为政府应制定并执行 AI 规则。
在 AI 机器人对战平台 StarSkirmish 上,OpenAI 的 GPT-6 Astra 与 Claude Opus 5.5 表现基本持平,但都未能击败排名最高的人类制作机器人 Stardust。
Google 研究者提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),用于在语言模型反复改写智能体 harness 的自我优化循环中防止其记住测试任务。
微软发布 ThinkingBox 智能体评测框架与 ThinkingBox-Bench 基准,通过隔离的 MCP 工具会话运行 507 个有状态业务工作流,每个任务重复 20 次,按终态数据库状态和副作用而非模型回答打分。
推荐理由:论文给出 507 个有状态工作流、每任务跑 20 次的评测方法,并揭示工具处理而非推理才是失败主因。
Simon Willison 呼吁按用量付费的 API 和服务默认提供硬性预算上限,即达到 $X/月后直接切断并返回错误,而非仅发警告邮件。AWS 已在 9 月 16 日推出月度支出上限功能,项目达到限额后当月暂停,但目前仅向有限客户开放;Google Cloud 则在 7 月推出 Spend Caps。
一批 AI 智能体无需下载新应用,直接通过 iMessage、RCS、SMS、WhatsApp 等短信渠道接收任务,能记住上下文、连接已有应用并代为完成日程安排、预订、购物等操作。
Meta 宣布开源项目 Muse Gadgets,让爱好者自行搭建 AI 硬件,包含 ESP32 开发板固件和用于把自制设备接入 Meta AI 智能体 Muse 的 Linux SDK,代码采用 Apache 2.0 许可,并设有 Discord 社区讨论。
DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。
研究团队提出 Image-to-Code 方法,让编码智能体接收单张照片后迭代编写并运行 Blender 程序,直到场景匹配原图,输出为可运行、可修改的代码。配套的 LEGO-Bench 包含 104 个室内外场景的 208 张图像和 443 个注册资产,从有效性、几何精度和外观相似度三方面评分。
OpenAI 发布 GPT-6.1 Sol,定价 $2/$10 per million input/output tokens,在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,Agent Arena 中位任务成本 $0.56,比 GPT-6 Sol 便宜 39%。
Anthropic 为 Claude Code 发布 Mods 插件系统,本质是运行在工具内部的中间件,开发者可用 JavaScript 或 TypeScript 函数挂钩工具调用、用户提示词和 UI 渲染等事件,添加自定义面板、拦截工具调用或接入新命令。
Meta 发布开源项目 Muse Gadgets,提供开源固件和 Linux SDK,让开发者用 Raspberry Pi 或 ESP32 等低成本硬件连接 Muse 智能体,并给出彩色电子墨水屏、HDMI 电视棒等项目示例。
Apple 修改全盘访问权限以遏制 AI 智能体的滥用行为。Meta 认为 FDA 不足以支撑 Muse 读取消息,Apple 对此持不同意见。
Apple 宣布将在 macOS 上新增对全盘访问权限的限制,要求用户通过非常明确的主动操作才能授予应用这一权限。Apple 表示,部分开发者使用全盘访问的方式可能让用户暴露文件、邮件、信息和浏览历史等全部系统内容,而随着 AI 智能体能力与自主性增强,这类访问带来的风险将大幅上升。Apple 未说明该更新的具体推出时间。
Meta 开源了代码,让用户自己制作搭载其新 AI 智能体的 Muse 硬件。Meta 建议把 Muse 装到彩色 E Ink 屏上显示提醒、装到 HDMI 棒上投到大屏,或装到小触屏设备上做成类似 DIY Muse Charm 的装置,用户可用 SDK 编程现成的 ESP32 板或树莓派,连接显示器、按钮、传感器等,但 Meta 提醒需自行承担风险。
Cloudflare 发布 Clef 和 Clef-flash 两款面向 AI 智能体的决策模型,返回带概率的简短分类而非长文本,并称智能体决策不再必须有人类在环。
Apple 宣布将在 macOS 上对“完全磁盘访问”设置引入额外管控,理由是 AI 智能体增加了这一访问级别带来的风险。该设置原本用于让备份正常工作,但会授予应用访问文件、邮件、信息和浏览历史的权限。
The Verge 记者 Allison Johnson 实测 OpenAI 本周发布的智能体平台 Dots,它拥有拟人化头像和可自定义名称,目前每个用户只能创建一个,且优先向最高档账户开放,包括每月 100 美元的 Pro 账户。
Circuit Breaker Labs 打造了一支"碰撞测试假人"式的 AI 智能体队伍,模拟不同年龄、背景、语言和文化的用户,对模型进行红队测试,每天运行数万至数十万次模拟对话,以发现模型在识别危险、心理有害互动上的漏洞。
MIT Technology Review 报告指出,企业 AI 正从工具转向“智能体式转变”的运营模式,2026 年全球 AI 投资预计达 2.5 万亿美元,同比增长 44%。报告认为企业 AI 的扩展瓶颈是结构性的,流程优先的公司正在领先,而多数企业仍未靠 AI 实现收入增长。关键路径是重建数据基础设施、采用可组合架构,并解决 AI 主权问题。
亚马逊在 Amazon SageMaker AI 上推出多轮强化学习(MTRL)能力,用于微调搜索智能体,并以 Qwen3.6-27B 为例完成训练。MTRL 将智能体任务建模为多轮决策序列,通过多轮 rollout 生成数据并用策略梯度优化,支持 PPO、CISPO、IS 损失与 GRPO 等优势估计器。
AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成,模型只负责把自然语言翻译成固定类型操作并复述结果。该模式通过完整性回执保证"已扫描=合规+违规+模糊+不可读",避免 RAG 的抽样盲区和 text-to-SQL 的静默缩小风险,适用于租约合规、制裁筛查、保险理赔等场景。
Clay 联合创始人兼 CEO Kareem Amin 将在 TechCrunch Disrupt 2026 的 AI Stage 发表演讲,主题为“GTM 工程师:AI 如何创造科技业下一个大职位类别”。
GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用它、不轻信 AI 的首次答案、用 AI 节省的时间去解决更大的问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明它用第二个模型对计划、代码和测试进行批判性审查,从而发现首个模型遗漏的问题。
Airbnb CTO Ahmad Al-Dahle 介绍了公司向 AI 原生转型的做法,目前 60% 的代码由 AI 编写,功能交付量同比增长近 80%,工程师的 PR 吞吐量提升约 1.6 倍。