跳到正文

#安全/对齐

今日 0 条
11月19日周四
11月18日周三
11月17日周二
11月13日周五
11月12日周四
  1. AWS Machine Learning Blog34

    用反合一(anti-unification)对形式化策略做语义 diff

    开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。该引擎不导入 Cedar、Dogwood、OpenShell、CEL 的原生策略,而是把相关语法编码为项并声明等式。它可用于对比 LLM 自动形式化多次生成的候选,先审查变化部分。

11月11日周三
  1. Microsoft Research78

    微软研究披露 Lazarus 后门技术:改写不到 10 个休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,通过改写 LLM 中不到 10 个休眠神经元、无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现(如时钟跨入 2027 年)才执行下载并运行攻击者代码等命令。

    推荐理由:微软研究团队披露一种无需训练、改写不到 10 个休眠神经元即可给智能体植入后门的方法,并给出权重溯源与扫描的防护思路。

11月10日周二
  1. Google DeepMind88

    Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,这是一个多 LLM 智能体框架,用于对实际运行代码做深度形式化验证。研究团队与模型协作把 Signal 的安全目标转写为形式化规格,由 Gemini Carbon 驱动的智能体生成超过六百万行 Lean 证明,整个过程耗时四周,而人工团队通常需要数年。

    推荐理由:原文交代了多智能体框架如何把形式化验证拆成规格与证明两步,并给出四周完成 Signal 协议验证的对照。

11月9日周一
11月7日周六
11月6日周五
11月5日周四
  1. OpenAI News78

    OpenAI 用自主流水线发现并修补 Linux 内核 948 个本地提权漏洞

    OpenAI 构建了一条自主流水线,在 Linux 内核中发现、验证并生成补丁,覆盖 948 个本地权限提升漏洞。材料仅给出这一结果,未披露流水线的具体构成与漏洞细节。

    推荐理由:OpenAI 披露了一条自主流水线,可自动发现、验证并生成 Linux 内核提权漏洞补丁,读者可据此了解漏洞挖掘自动化的当前边界。

  2. AWS Machine Learning Blog50

    AWS Quick 推出 Smart Approvals:为 AI 智能体保留必要的人工审核

    AWS Quick 上线 Smart Approvals,用独立的分类器模型对照用户请求评估符合条件的操作,自动批准或退回人工审核,且不额外授予权限、不取消强制人工审批。该功能默认开启,管理员可通过 Custom Permissions 控制使用范围,用户也可自行关闭。自动批准为单次有效,仅适用于被审核的确切操作与参数,相关权限事件记录在 AWS CloudTrail 中。

11月4日周三
  1. Microsoft Research22

    微软研究院 Mike Walker 谈黑客思维:规则是理解信任与安全的入口

    微软研究院研究经理 Mike Walker 在播客中讲述自己从黑客文化走入网络安全研究的经历,他曾领导 DARPA 的 Cyber Grand Challenge,该项目今年迎来 10 周年。他认为安全系统每次向用户索取配合都是在消耗信任,有效安全取决于对信任与上下文的理解,并反思了网络系统如今是否比十年前更安全。

11月3日周二
10月31日周六
10月30日周五
10月29日周四
  1. Google DeepMind84

    Google DeepMind 发布 Gemini 4 Carbon 前沿模型

    Google DeepMind 发布 Gemini 4 Carbon,称其在网络安全与长程任务能力上达到 SOTA,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。

    推荐理由:原文列出 Carbon 在网络安全与长程编码基准上的具体分数和定价,可对照两周前发布的 Argon 看能力推进节奏。

10月28日周三
10月24日周六
10月23日周五
10月22日周四
10月21日周三
  1. Hugging Face Blog58

    Ai2 发布 FairStress 基准,评估 LLM 决策公平性

    Ai2 发布 FairStress,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不只比较最终选择,还测试模型面对说服性前缀时改变决定的难易程度。基准包含 29 个领域的 300 个双候选人场景,组合身份呈现方式与对抗前缀后扩展为超过 1300 万个测试用例,另有基于项目反应理论筛选的 5 万条 FairStress-Core 子集。

10月15日周四