ProvenanceGuard 研究为 MCP 智能体提供来源感知事实核查
Multiverse Computing 提出 ProvenanceGuard,用于核查 MCP 智能体回答中的主张是否由其标明或暗示的来源支持。研究在医疗智能体数据上测试了 361 条主张,拦截了专家判定不应通过的 139 条中的 138 条,同时将 67 条专家认为有支持的主张送去复核或修复;可识别来源的主张中,来源判断正确率约为 86%。
Multiverse Computing 提出 ProvenanceGuard,用于核查 MCP 智能体回答中的主张是否由其标明或暗示的来源支持。研究在医疗智能体数据上测试了 361 条主张,拦截了专家判定不应通过的 139 条中的 138 条,同时将 67 条专家认为有支持的主张送去复核或修复;可识别来源的主张中,来源判断正确率约为 86%。