指南
AI 事实核查工具指南：工具能验证什么，哪些内容必须人工审查
AI 事实核查工具可以帮助提取可核查的事实声明、搜索证据、比较来源，并标记缺乏支持的陈述，但它无法保证内容真实。搜索覆盖范围、来源质量、时效性、歧义和模型推理都可能出错，因此具有后果的声明仍需由人检查原始证据并记录结论。
研究与披露: 本指南参考了 Google Fact Check Explorer、Google Fact Check Tools 概览、NIST 生成式 AI 风险管理框架，以及 2026 年 9 月 4 日 Google 美国 SERP 中出现的大学横向阅读指南。Ottermind 不声称提供权威事实数据库，本文也没有对任何供应商进行基准测试。
AI 事实核查工具实际上做什么
大多数工具会组合四种操作：
- **声明识别：**把文本拆分成可以验证的事实陈述。
- **检索：**搜索公开网络、数据库或用户提供的文档。
- **比较：**判断证据支持、反驳还是无法解决该声明。
- **呈现：**返回结论、解释、置信度和链接。
每种操作都可能引入错误。一个复合句可能被当成单项声明核查；搜索可能优先返回转载文章，而非原始来源；来源可能可靠但已经过期；即使证据彼此矛盾，最终标签也可能显得非常确定。
真正重要的功能
| 能力 | 良好表现 | 警示信号 |
|---|---|---|
| 拆分声明 | 每行只有一项精确命题 | 整段文字只得到一个结论 |
| 来源可见性 | 直接链接、日期、作者和引用语境 | 只有分数，没有可检查证据 |
| 来源控制 | 可以按域名、日期和已提供来源筛选 | 无法优先使用原始证据 |
| 不确定性 | 支持、反驳、证据混合或未解决 | 强制使用真/假二元标签 |
| 时效性 | 搜索日期和发布日期清晰可见 | 使用旧页面核查当前声明 |
| 审计记录 | 可导出声明、证据、结论和审查修改 | 会话结束后结果消失 |
| 隐私 | 可以排除或保护敏感输入 | 默认保留全部提交内容 |
四类事实核查产品
“事实核查工具”这个标签包含采用不同证据模型的产品。比较功能前，应先确定正在评估哪一种。
已发布核查结果搜索工具
这类工具搜索已经发布的事实核查，查询对象可以是人物、短语、图片或话题。当公认的事实核查机构已经调查过同一项声明时，它们非常有用。但它们无法验证新的内部声明，也不能证明一个没有匹配结果的陈述就是真的。
开放网络验证助手
这类工具接收一项声明或一份文档，搜索公开网页，并生成带证据链接的判断。应测试它能否找到原始来源、区分发布日期与事件发生日期，并保留不确定性。搜索质量和来源选择，与负责撰写解释的模型同样重要。
限定来源的核查工具
这类工具将草稿与用户提供的来源包进行比较。由于证据边界明确，它们通常更适合报告、政策、合同和内部研究，但仍需要提供精确到位置的引用，并能呈现彼此冲突或缺失的文档。
编辑核查工作区
这类产品用于组织声明、证据、审查者、状态和最终修正。它们可以使用 AI 提取和匹配内容，但核心价值在于审计记录。对于高影响发布流程，工作流往往比一键真伪评分更重要。
证据匹配应该如何工作
一项引用只有通过以下检查才能算正确：
- **存在性：**页面或文档真实存在，审查者可以访问。
- **身份：**作者、发布者和文档与核查结果所声称的一致。
- **蕴含关系：**引用段落支持的是确切命题，而不只是相近话题。
- **权威性：**来源适合核查该类声明。
- **时效性：**对于可能变化的声明，来源日期仍然适用。
- **独立性：**用于佐证的来源不是全部重复同一个源头。
- **语境：**限定条件、研究对象、地区和例外都得到保留。
工具应该提供足够证据，让审查者能够执行这些检查。没有可检查支持的置信度只是展示，不是验证。
一套包含 25 项声明的评估集
采用工具前，建立一套均衡测试：
- 五项有可靠原始来源的稳定公开事实；
- 五项职位、价格或政策等时效性事实；
- 五项措辞看似合理的错误声明；
- 五项证据混合或依赖具体语境的声明；
- 五项只能通过所提供文件验证的内部声明。
分别为声明提取、来源质量、引用正确性、结论准确性、不确定性校准和审查时间评分。不要在没有独立审查的情况下，让同一个模型同时生成测试声明、证据和最终评分。
再加入能够暴露捷径的对抗案例：
- 真实统计数字被放在错误年份下；
- 真实引语被归给错误的发言者；
- 官方页面已经被新版本取代；
- 三篇文章都引用同一份新闻稿；
- 数字正确但分母被删除；
- 声明部分正确，却在实质上产生误导；
- 内部事实无法在公开网络中验证；
- 来源标题支持声明，但正文并不支持。
声明：
声明类型：稳定 / 当前 / 定量 / 归因 / 内部
所需来源类型：
检索到的证据：
证据日期：
支持 / 反驳 / 未解决：
缺失语境：
审查者修正：
最终处理结论：为测试评分
使用相互独立的指标，避免强大的检索能力掩盖不安全的判断。
| 指标 | 计算方式 | 重要原因 |
|---|---|---|
| 声明召回率 | 已提取的重要声明 / 实际存在的重要声明 | 被遗漏的声明不会得到审查 |
| 引用准确率 | 真正支持声明的引用 / 返回的全部引用 | 衡量证据错配 |
| 原始来源率 | 拥有合适原始证据的声明 / 可验证声明 | 揭示对二手摘要的依赖 |
| 结论准确率 | 正确处理结论 / 已审查声明 | 测试最终分类 |
| 放弃判断质量 | 正确标记为未解决 / 确实无法解决的案例 | 奖励诚实表达不确定性 |
| 审查者用时 | 验证并修正输出所需分钟数 | 衡量实际运行价值 |
应根据使用场景设定阈值。新闻编辑室、法务团队、产品营销人员和学生研究部门不应该共用同一个验收阈值。即使低风险背景信息采用抽样方式检查，高风险声明也可能要求逐条检查引用。
完整评估示例
假设要用以下声明测试核查工具：“NIST AI 风险管理框架是 2024 年出台的美国强制性法规。”
有用的结果应该拆分这项命题：指出该框架为自愿采用，区分 2023 年发布的 AI RMF 1.0 与 2024 年的生成式 AI 配套框架，链接 NIST 官方材料，并说明框架不会自动成为法规。较差的结果可能找到了正确的 NIST 页面，却因为页面同时包含“AI 风险管理框架”和“2024”就把整个句子标记为获得支持。
这一个句子同时测试了蕴含关系、日期处理、文档身份和复合声明拆分能力。
工具辅助不等于工具决策
为不同人员分配明确角色：
| 角色 | 职责 |
|---|---|
| 作者 | 提供草稿、预期含义和已知来源 |
| AI 核查工具 | 提取声明、检索候选来源并组织证据 |
| 研究员 | 查找原始材料并理清来源链 |
| 领域审查者 | 判断专业性或后果性声明 |
| 编辑 | 使措辞与证据一致并保留不确定性 |
| 发布负责人 | 确认签字、披露和记录保留 |
对于低风险工作，一个人可以同时承担多个角色，但不同职责仍应保持清晰。作者不能把工具给出的置信度分数直接转换成发布批准。
上传草稿前需要考虑的隐私问题
草稿可能包含未发布产品、客户姓名、指控、法律策略、个人信息或机密研究。使用托管式核查工具前，应确认它收集什么、在哪里处理、保留多久、谁可以访问、是否用于训练模型，以及如何删除。
对于受限材料，优先使用已经批准的限定来源环境，对不必要字段进行脱敏，或者保留人工审查。不要为了获得方便的分数而牺牲保密性。
编辑团队的集成检查清单
有效的事实核查工具应该融入发布流程，而不是停留在编辑经常忘记打开的另一个标签页里。
[ ] 草稿具有稳定的文档 ID 和版本 ID。
[ ] 声明能够链接回具体句子或章节位置。
[ ] 证据记录来源、作者、日期、段落和访问日期。
[ ] 作者可以回应，但不能覆盖审查者的发现。
[ ] 高风险声明需要指定人员批准。
[ ] 未解决声明可以按照成文规则阻止发布。
[ ] 最终措辞始终连接到支持它的证据。
[ ] 时效性声明在接近发布时再次执行链接检查。
[ ] 发布后的修正连接到原始声明记录。
[ ] 敏感草稿遵循已批准的访问和保留规则。将状态连接到内容系统时要格外谨慎。一项声明从 unresolved 变为 supported，应该需要证据和审查者，而不是只需要同一个生成流程发起一次 API 调用。
对于协作工作，应规定谁能编辑声明、证据、处理结论和最终文案。保留历史记录，避免后期改写删除限定条件，却继续沿用旧的批准标记。
需要询问事实核查供应商的问题
- 系统如何拆分复合声明和隐含声明？
- 能否按来源类型、域名、日期或用户提供的文件限制搜索？
- 能否区分原始证据与重复该证据的页面？
- 如何处理发布日期、事件日期和页面更新时间？
- 审查者能否看到支持每项结论的确切段落？
- 除真和假之外，还支持哪些结论和不确定状态？
- 能否导出声明、引用、标签、审查修改和版本？
- 私有输入如何保留、访问、删除并用于训练？
- 高影响或未解决声明能否形成发布门槛？
- 搜索或来源不可用时，产品如何处理？
要求供应商运行你的对抗评估集。使用著名公开声明进行演示，无法证明产品能够处理当前产品文档或私有来源包。
哪些情况不能依赖自动事实核查
不要把法律建议、医疗决定、安全说明、金融操作、针对个人的指控，或者会对客户和员工产生实质影响的声明交给自动工具完成最终验证。工具可以组织证据，但必须由具备资质且承担责任的人员作出决定。
如果来源无法访问、声明取决于当地法律、措辞存在歧义，或者只找到循环引用，也应该暂停处理。“未解决”本身就是一项有用结果。
比一键验证更可靠的工作流
先使用 AI 创建事实声明清单，按影响和时效性确定优先级，为每种类型设定证据标准，检索原始来源，保存相关段落和日期，再让审查者对高影响条目签字确认。随后根据台账更新草稿，而不是直接接受彼此孤立的绿色对勾。
如何核查 AI 内容提供了完整编辑流程。对于以来源为核心的工作，AI 研究助手指南说明了如何比较检索、引用、分析和交付能力。
常见问题
AI 事实核查工具准确吗？
准确性取决于具体声明、证据获取、时效性和工具设计。在审查者打开引用来源并确认它支持确切声明之前，应把结果视为研究辅助。
AI 事实核查工具能够检测幻觉吗？
它可以标记缺乏支持证据的声明，但也可能遗漏细微错误、检索无关来源或生成错误解释。结构化声明台账比单一的幻觉分数更可靠。
维基百科足以验证声明吗？
它可以帮助确定研究方向，但具有后果的声明应该追溯到合适的原始或权威来源，并检查所引用材料及其日期。
没有证据意味着什么？
这意味着搜索没有解决该声明，并不能自动证明它是错的。应根据影响程度修订、收窄、升级处理或删除。
一个事实核查工具可以评估整篇长文吗？
它可能可以接收整份文件，但仍需评估它是否提取了所有重要声明并保留页级证据。批量审查经常掩盖遗漏，因此应逐节检查覆盖情况。
事实核查工具应该提供一个统一置信度百分比吗？
单一百分比很少足够。应分别要求证据质量、结论、不确定原因和来源覆盖率，让审查者理解数字的真正含义。
事实核查工具能够验证图片和视频吗？
有些工具支持反向搜索、元数据或来源追踪检查，但视觉验证需要独立工作流。应检查原始素材、发布历史、编辑痕迹、地点、日期和佐证证据。
事实核查工具应该自动改写缺乏支持的声明吗？
它可以提出措辞建议，但在审查者确认新句子与证据一致前，修订稿应保持未批准状态。自动改写可能引入新的未经核查声明。
低风险内容的事实核查可以完全自动化吗？
确定性检查和抽样可以减少重复工作，但仍需定义重要声明、升级路径、审计和纠错流程。低风险不等于无需承担责任。
使用 Ottermind 将草稿、事实声明台账、来源文件和审查说明保存在同一个可检查任务中，再把内容转换成最终交付物。
