SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析周期从数周压缩到数小时,从而腾出更多人力调查更多威胁。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析周期从数周压缩到数小时,从而腾出更多人力调查更多威胁。
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再生成带护栏和回滚指引的修复方案。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型。
Google DeepMind 发布 Gemini 4 Argon 的安全与安保报告,说明其在网络安全和生物等高风险领域的防护做法。Argon 在 12 个端到端模拟网络攻击场景中全部通过,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。报告还介绍了输入筛查、激活探针内省和实时监控三层防护,以及实时失准监控机制。
推荐理由:Google DeepMind 公开了 Gemini 4 Argon 的安全与对齐报告,读者可了解前沿模型在高风险领域的防护设计。
GitHub 推出基于微调 ModernBERT 的密钥检测流水线,替代此前基于 LLM 的方案,用户告警接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本降低超 98%。该流水线先用正则高召回生成候选,再由 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证,从而将占位符、测试样例等误报过滤掉。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
OpenAI 捣毁了两起借助 AI 开展的影响力行动,这些行动利用虚假身份的“记者”和一家智库散布地缘政治信息。
GitHub 发布与 Microsoft Applied Sciences 联合构建的 ModernBERT 分类器,用代码上下文识别非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把推送拦截扩展到非结构化密钥。
AWS 发文解读国际标准 ISO/IEC 42005:2025,说明其如何指导企业将 AI 系统影响评估整合进整体治理体系。该标准覆盖评估全生命周期(范围界定与执行、分析与报告、持续监控与复审),并提供 Annex D 简化流程与 Annex E 独立模板。
Google Research 发布研讨会报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》,由 50 多位学界与业界人士在 2025 年底纽约 Google CAPS 研讨会上共同完成。
OpenAI 阐述了在 EU 文本溯源规则下推进文本水印的思路,说明了水印的适用场景与检测机制,并解释为何访问权限首先面向研究人员开放。
Google Research 发布新一代联邦学习系统,利用 TEE 提供可外部验证的隐私保证,并将计算转移到服务器端以提升训练速度、精度和设备覆盖。该系统通过公开透明日志 Rekor 发布访问策略,KMS 仅向匹配策略的 TEE 工作负载发放解密密钥,训练数据只能在 TEE 内解密处理。Gboard 已采用新系统,计算速度较此前联邦学习系统大幅提升。
uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调,并做提示词层面的输出优化,使其适配自身零售审核策略。
Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御者开放,随后再面向开发者、企业和消费者推出。
推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长程工程与安全防御上的进展。
OpenAI 表示已阻断一次协同的模型蒸馏行动,该行动试图提取其受保护的模型推理能力。OpenAI 同时称正在加强针对对抗性蒸馏的防御。
针对 MCP 智能体跨工具取证时"事实为真但来源归属错误"的跨源混淆问题,论文提出后置验证层 ProvenanceGuard,在不重训智能体的前提下保留 MCP 调用轨迹中的来源 ID,依次完成声明拆分、来源路由、支持度打分、归属比对与放行/拦截决策。在医疗智能体的 281 条真实轨迹上,专家判定 139 条声明不应通过,ProvenanceGuard 拦下 138 条。
OpenAI 发布前沿 AI 训练安全案例的早期指南,覆盖技术防护措施、运营实践以及失准事件调查三方面。该指南针对前沿 AI 训练环节,旨在为安全案例的构建提供初步框架。
OpenAI 就涉及澳大利亚政府网站的事件致歉,并公布更严格的防护措施与支持,以加强澳大利亚的网络防御能力。
OpenAI 宣布将其 Daybreak 计划的访问权限扩展至乌克兰政府,用于支持民用基础设施的网络防御。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
OpenAI 发布 MentalHealthBench,一个由专家参与构建的基准,用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。
OpenAI 阐述了针对前沿模型与防护措施的第三方 AI 安全评估的优先事项与原则,强调评估需严谨、安全且独立。
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外执行策略并提供沙箱化执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
OpenAI 正与一个独立的数学与人工智能咨询小组合作,为新兴 AI 成果的评审与传播提供指导。该小组为独立性质,具体成员、成果范围及运作方式未在文中披露。
OpenAI 提出构建全球共享 AI 标准的路径,呼吁通过协调一致的评估、报告与治理来提升安全性。该主张面向 AI 发展的下一阶段,强调以协同机制推动安全水平提升。
OpenAI 发布澳大利亚青少年安全蓝图,这是一份包含六大支柱的路线图,旨在打造更安全的 AI 体验,保护并赋能青少年。
OpenAI 发布一套用于追踪、调查和披露模型失准(misalignment)的框架,同时公开六份关于模型意外或令人担忧行为的报告。
推荐理由:OpenAI 公开模型失准的追踪与披露框架,并附六份异常行为报告,可了解其安全披露机制。
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与安保委员会。他带来了 AI 对齐、安全与标准方面的经验。
OpenAI 的 Chris Lehane 主张,AI 能力越强,就越需要更强的安全证据、共享标准与持久的政策行动,并呼吁在政策窗口仍然敞开时采取行动。
OpenAI 开放申请一项总额 500 万美元的资助计划,用于支持关于生成式 AI 如何影响青少年发展、福祉与安全的独立研究。
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 与对齐难题,称其如同"异类心智",呼吁加强安全防护并推动国际协调。
OpenAI 推出 Daybreak for Frontline Defenders,承诺投入 10 亿美元,为关键服务扩大前沿网络 AI 的使用权限,并提供培训与支持。
Google DeepMind 推出 Fairwind Program,面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力,首批提供 Gemini 3.8 Flash Cyber 模型访问权限。
推荐理由:Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 组合成受限访问计划,读者可了解其能力边界与准入条件。
Google DeepMind 发布 Gemini 3.8 Flash 和面向安全防御的 Gemini 3.8 Flash Cyber,称 3.8 是其目前最强的推理与编码模型,速度与成本与 3.7 Flash 持平。
推荐理由:官方给出两个变体的定价、基准与开放入口,可据此判断长程编码与安全场景的选型取舍。
Google DeepMind 与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,对一款 Gemini Flash Lite 模型开展全球首个专有前沿模型的雙盲评测,将外部评测限制在密码学隔离环境中,避免模型提前接触测试题。
Google DeepMind 发布 Gemini 3.5 Flash Cyber,这是基于 3.5 Flash 微调的轻量网络安全模型,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
推荐理由:官方给出轻量安全模型在 CyberGym、Chrome 提交扫描等基准上的对比数据,可了解其成本与能力取舍。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家与生物安全专家借助 AI 应对未来疫情。
Google DeepMind 发布 AI Control Roadmap,一套用于在 Google 内部部署和管理高级 AI 的防御纵深框架,把内部智能体视为可能未对齐的“内部威胁”,在模型对齐之外增加系统级安全层。
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests,用于审计机器遗忘。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持,发起最高 1000 万美元的多智能体 AI 安全技术研究资助,面向全球研究者征集方案。