跳到正文

#安全/对齐

今日 0 条
10月15日周四
10月14日周三
  1. Google DeepMind76

    Google DeepMind 发布 Gemini 4 Argon 安全与安保报告

    Google DeepMind 发布 Gemini 4 Argon 的安全与安保报告,说明其在网络安全和生物等高风险领域的防护做法。Argon 在 12 个端到端模拟网络攻击场景中全部通过,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。报告还介绍了输入筛查、激活探针内省和实时监控三层防护,以及实时失准监控机制。

    推荐理由:Google DeepMind 公开了 Gemini 4 Argon 的安全与对齐报告,读者可了解前沿模型在高风险领域的防护设计。

  2. GitHub Blog · AI & ML34

    GitHub 如何用 ModernBERT 分类器实现更少噪声的密钥检测

    GitHub 推出基于微调 ModernBERT 的密钥检测流水线,替代此前基于 LLM 的方案,用户告警接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本降低超 98%。该流水线先用正则高召回生成候选,再由 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证,从而将占位符、测试样例等误报过滤掉。

10月9日周五
10月8日周四
  1. GitHub Blog · AI & ML60

    GitHub 推出基于 ModernBERT 的通用密钥检测模型

    GitHub 发布与 Microsoft Applied Sciences 联合构建的 ModernBERT 分类器,用代码上下文识别非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把推送拦截扩展到非结构化密钥。

10月7日周三
10月6日周二
10月3日周六
  1. Google Research49

    Google Research 发布基于 TEE 的可验证隐私联邦学习系统

    Google Research 发布新一代联邦学习系统,利用 TEE 提供可外部验证的隐私保证,并将计算转移到服务器端以提升训练速度、精度和设备覆盖。该系统通过公开透明日志 Rekor 发布访问策略,KMS 仅向匹配策略的 TEE 工作负载发放解密密钥,训练数据只能在 TEE 内解密处理。Gboard 已采用新系统,计算速度较此前联邦学习系统大幅提升。

10月1日周四
  1. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御者开放,随后再面向开发者、企业和消费者推出。

    推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长程工程与安全防御上的进展。

9月30日周三
  1. Hugging Face Blog38

    ProvenanceGuard:面向 MCP 智能体的来源感知事实核查

    针对 MCP 智能体跨工具取证时"事实为真但来源归属错误"的跨源混淆问题,论文提出后置验证层 ProvenanceGuard,在不重训智能体的前提下保留 MCP 调用轨迹中的来源 ID,依次完成声明拆分、来源路由、支持度打分、归属比对与放行/拦截决策。在医疗智能体的 281 条真实轨迹上,专家判定 139 条声明不应通过,ProvenanceGuard 拦下 138 条。

9月29日周二
9月23日周三
9月22日周二
9月21日周一
9月18日周五
9月17日周四
9月10日周四
9月9日周三
9月8日周二
9月6日周日
9月3日周四
  1. Google DeepMind64

    Google DeepMind 推出 Fairwind Program,向政府与企业开放 Gemini 3.8 Flash Cyber 网络防御能力

    Google DeepMind 推出 Fairwind Program,面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力,首批提供 Gemini 3.8 Flash Cyber 模型访问权限。

    推荐理由:Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 组合成受限访问计划,读者可了解其能力边界与准入条件。

8月27日周四
7月17日周五
  1. Google DeepMind71

    Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型

    Google DeepMind 发布 Gemini 3.5 Flash Cyber,这是基于 3.5 Flash 微调的轻量网络安全模型,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。

    推荐理由:官方给出轻量安全模型在 CyberGym、Chrome 提交扫描等基准上的对比数据,可了解其成本与能力取舍。

7月16日周四
6月16日周二
6月11日周四
6月10日周三