跳到正文
原文
Microsoft Research· Dimitris Papailiopoulos·· 9 天前精选AI 评分78

微软研究披露 Lazarus 后门技术:改写不到 10 个休眠神经元即可控制 AI 智能体

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究人员发现名为 Lazarus 的后门技术,通过改写 LLM 中不到 10 个休眠神经元、无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现(如时钟跨入 2027 年)才执行下载并运行攻击者代码等命令。

推荐理由

微软研究团队披露一种无需训练、改写不到 10 个休眠神经元即可给智能体植入后门的方法,并给出权重溯源与扫描的防护思路。

来源:Microsoft Research · microsoft.com