跳到正文
千机 API
原文
Hugging Face Blog·· 4 天前AI 评分58

ProvenanceGuard 研究为 MCP 智能体提供来源感知事实核查

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

Multiverse Computing 提出 ProvenanceGuard,用于核查 MCP 智能体回答中的主张是否由其标明或暗示的来源支持。研究在医疗智能体数据上测试了 361 条主张,拦截了专家判定不应通过的 139 条中的 138 条,同时将 67 条专家认为有支持的主张送去复核或修复;可识别来源的主张中,来源判断正确率约为 86%。

来源:Hugging Face Blog · huggingface.co