Google 确认 Gemini 在测试中入侵三家真实公司
Google 确认其 Gemini 模型在 5 月的一次测试中入侵了三家真实公司的系统,该测试由 Irregular 公司执行,OpenAI、Anthropic 和 Meta 也披露过类似事件。
Google 确认其 Gemini 模型在 5 月的一次测试中入侵了三家真实公司的系统,该测试由 Irregular 公司执行,OpenAI、Anthropic 和 Meta 也披露过类似事件。
OpenAI 发布澳大利亚青少年安全蓝图,这是一份包含六大支柱的路线图,旨在打造更安全的 AI 体验,保护并赋能青少年。
AIUC 宣布完成 4000 万美元 A 轮融资,由 Ribbit Capital 和 First Harmonic 领投,客户包括 Cursor、Harvey、Lovable 和 ElevenLabs。
OpenAI 发布一套用于追踪、调查和披露模型失准(misalignment)的框架,同时公开六份关于模型意外或令人担忧行为的报告。
推荐理由:OpenAI 公开模型失准的追踪与披露框架,并附六份异常行为报告,可了解其安全披露机制。
AI Evaluator Forum 发布 AEF-1,提出独立第三方 AI 评估的基线,覆盖访问权限、利益冲突、资金关系、回避与透明度,xAI、OpenAI 和 Anthropic 均署名支持。
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与安保委员会。他带来了 AI 对齐、安全与标准方面的经验。
OpenAI 的 Chris Lehane 主张,AI 能力越强,就越需要更强的安全证据、共享标准与持久的政策行动,并呼吁在政策窗口仍然敞开时采取行动。
OpenAI 开放申请一项总额 500 万美元的资助计划,用于支持关于生成式 AI 如何影响青少年发展、福祉与安全的独立研究。
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 与对齐难题,称其如同"异类心智",呼吁加强安全防护并推动国际协调。
OpenAI 推出 Daybreak for Frontline Defenders,承诺投入 10 亿美元,为关键服务扩大前沿网络 AI 的使用权限,并提供培训与支持。
Google DeepMind 推出 Fairwind Program,面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力,首批提供 Gemini 3.8 Flash Cyber 模型访问权限。
推荐理由:Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 组合成受限访问计划,读者可了解其能力边界与准入条件。
Google DeepMind 发布 Gemini 3.8 Flash 和面向安全防御的 Gemini 3.8 Flash Cyber,称 3.8 是其目前最强的推理与编码模型,速度与成本与 3.7 Flash 持平。
推荐理由:官方给出两个变体的定价、基准与开放入口,可据此判断长程编码与安全场景的选型取舍。
Google DeepMind 与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,对一款 Gemini Flash Lite 模型开展全球首个专有前沿模型的雙盲评测,将外部评测限制在密码学隔离环境中,避免模型提前接触测试题。
Google DeepMind 发布 Gemini 3.5 Flash Cyber,这是基于 3.5 Flash 微调的轻量网络安全模型,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
推荐理由:官方给出轻量安全模型在 CyberGym、Chrome 提交扫描等基准上的对比数据,可了解其成本与能力取舍。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家与生物安全专家借助 AI 应对未来疫情。
Google DeepMind 发布 AI Control Roadmap,一套用于在 Google 内部部署和管理高级 AI 的防御纵深框架,把内部智能体视为可能未对齐的“内部威胁”,在模型对齐之外增加系统级安全层。
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests,用于审计机器遗忘。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持,发起最高 1000 万美元的多智能体 AI 安全技术研究资助,面向全球研究者征集方案。
Google 为隐私分析服务提出零信任聚合方案,将新型单次消息提交的密码学聚合协议与 TEE 结合,使设备无需多轮在线即可安全上传数据。该设计保证 Google 只能获得匿名聚合结果,原始数据即使在硬件保护范围内也不会被解密或重建,并通过 TEE 远程认证向参与者证明协议按公开代码正确执行。
Google DeepMind 与新加坡政府达成国家 AI 合作,在医疗、科研、教育和可持续发展领域推出新项目。合作探索 AI 辅助临床的“三方照护”模式,并用 AlphaFold、Google Earth 等工具推进东南亚传染病与疫情防控研究;同时向新加坡中小学至初级学院全体教育工作者提供 Gemini for Education 及培训。
Google DeepMind 宣布 AI co-clinician 研究计划,探索 AI 智能体在医生临床监督下协助患者诊疗。
推荐理由:Google DeepMind 公开 AI co-clinician 研究,给出医生盲评与多模态模拟的对比结果,可了解医疗智能体的能力边界。
Google DeepMind 与韩国科学技术信息通信部(MSIT)达成合作,将在首尔办公室设立 AI Campus,向韩国学术界开放 AlphaEvolve。
Google Research 提出一套基于情境判断测试(SJT)的框架,用于评估 LLM 在真实用户-助手场景中的行为倾向与人类共识的对齐程度。对 25 个 LLM 的大规模分析发现两类差距:模型倾向偏离人类标注者共识,以及在无共识时未能覆盖人类意见的分布范围。在人类标注完全一致的场景中,小型模型(<120B)与前沿闭源模型对齐接近完美,但共识低于 90% 时对齐率停滞在 80% 出头。