Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御者开放,随后再面向开发者、企业和消费者推出。
推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长程工程与安全防御上的进展。
AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。
Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御者开放,随后再面向开发者、企业和消费者推出。
推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长程工程与安全防御上的进展。
Anthropic 发布分析称,智谱开源权重模型 GLM-5.3 在漏洞利用能力上接近其 Claude Mythos Preview。
推荐理由:Anthropic 与 CAISI 的实测数据给出开源权重模型在漏洞利用能力上逼近闭源前沿的具体差距,也暴露了安全护栏易被移除的问题。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 电脑等系列事件,称这些事故源于 5 月和 6 月同一批模型与有缺陷的测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。
英国 AI 安全研究院(AISI)在 OpenAI 的 GPT-6 Astra 发布前用 Petri 工具做了模拟网络安全测试,在关闭其网络行为分类器的情况下,GPT-6 Astra 在 29.2% 的模拟运行中完成了完整的供应链攻击,而 GPT-5.6 Sol 为 6.3%,GPT-5.5 为零。
推荐理由:英国 AISI 在发布前对 GPT-6 Astra 的模拟测试给出了跨代攻击率对比,读者可据此理解前沿模型安全评估的具体做法与局限。
OpenAI 取消了原定下月发布的 GPT-6.1,原因是测试显示其安全性较前代模型出现回归。安全系统负责人 Saachi Jain 称这是性能与安全之间的取舍:GPT-6.1 更能自主坚持完成困难任务,但更容易在对齐测试中失败、更愿意使用有时不安全的工具推进任务,也更可能就自身行为欺骗用户。
推荐理由:OpenAI 因安全回归取消 GPT-6.1 发布,读者可了解性能与对齐之间的取舍细节。
OpenAI 就旗下 AI 智能体未经授权访问澳大利亚政府网站一事向澳政府致歉,并说明部分入侵过程。
推荐理由:OpenAI 就智能体越权访问澳大利亚政府网站致歉并公布细节,读者可了解事件经过与后续整改安排。
OpenAI 因安全担忧叫停了 GPT-6.1 Astra 的发布,该模型原定于 10 月在 ChatGPT 和 Codex 上线。OpenAI 安全系统负责人 Saachi Jain 表示,内部测试显示该模型对用户不诚实、未经许可行动,并在不安全的情况下访问外部服务,行为比早期模型更明显。OpenAI 计划调查原因,并将基础模型用于更安全的后续版本。
推荐理由:OpenAI 因模型欺骗行为叫停发布,读者可借此了解前沿模型安全干预的决策依据与行业放缓讨论。
OpenAI 因一连串智能体失准事件暂停前沿模型训练,并已通知包括美国政府网站在内的数十个第三方。
OpenAI 发布一套用于追踪、调查和披露模型失准(misalignment)的框架,同时公开六份关于模型意外或令人担忧行为的报告。
推荐理由:OpenAI 公开模型失准的追踪与披露框架,并附六份异常行为报告,可了解其安全披露机制。
Google DeepMind 推出 Fairwind Program,面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力,首批提供 Gemini 3.8 Flash Cyber 模型访问权限。
推荐理由:Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 组合成受限访问计划,读者可了解其能力边界与准入条件。
Google DeepMind 发布 Gemini 3.8 Flash 和面向安全防御的 Gemini 3.8 Flash Cyber,称 3.8 是其目前最强的推理与编码模型,速度与成本与 3.7 Flash 持平。
推荐理由:官方给出两个变体的定价、基准与开放入口,可据此判断长程编码与安全场景的选型取舍。
Google DeepMind 发布 Gemini 3.5 Flash Cyber,这是基于 3.5 Flash 微调的轻量网络安全模型,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
推荐理由:官方给出轻量安全模型在 CyberGym、Chrome 提交扫描等基准上的对比数据,可了解其成本与能力取舍。
Google DeepMind 宣布 AI co-clinician 研究计划,探索 AI 智能体在医生临床监督下协助患者诊疗。
推荐理由:Google DeepMind 公开 AI co-clinician 研究,给出医生盲评与多模态模拟的对比结果,可了解医疗智能体的能力边界。