跳到正文
原文
Hugging Face Blog·· 2026-09-29AI 评分38

ProvenanceGuard:面向 MCP 智能体的来源感知事实核查

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

针对 MCP 智能体跨工具取证时"事实为真但来源归属错误"的跨源混淆问题,论文提出后置验证层 ProvenanceGuard,在不重训智能体的前提下保留 MCP 调用轨迹中的来源 ID,依次完成声明拆分、来源路由、支持度打分、归属比对与放行/拦截决策。在医疗智能体的 281 条真实轨迹上,专家判定 139 条声明不应通过,ProvenanceGuard 拦下 138 条。

来源:Hugging Face Blog · huggingface.co