什么是 Human-in-the-Loop AI？人工审核与审批详解

Human-in-the-Loop AI（人在回路中的 AI，简称 HITL），是指在 AI 辅助任务的明确节点，由人提供判断或授权，之后流程才继续。有效的审核门会暂停一个具体动作，展示证据与预期影响，让有权限的审核者选择批准、修改、拒绝、接管或升级，并记录任务如何恢复。

重点不是让人对 AI 每一步都点“批准”，而是在涉及语境、后果与责任时保留人的决定权，同时让低风险工作继续推进。

调研与披露: Ottermind 发布本文。我们于 2026 年 8 月 26 日核对了 NIST、Anthropic 与 Microsoft 的一手资料。下文审核契约与营销案例是原创编辑框架，不是 Ottermind 实测 benchmark。

Human-in-the-Loop AI 是什么意思？

HITL 描述的是 AI 先完成任务的一部分，人再在一个或多个决策点介入。人可以补充缺失背景、选择方案、纠正理解、批准动作、拒绝提议或直接接管。判断标准不是“有人使用了软件”，而是系统是否有明确路径，让人的判断能够改变下一步。

例如，AI 可以根据已核准的产品事实起草客户公告；发送前，传播负责人必须核对主张、受众、时间和收件人名单，并能要求修改、拒绝或停止任务。消息自动发出后才显示免责声明，并不构成 HITL。

训练反馈和运行时审核不是同一个回路

本文关注运行时任务回路。模型通过开发期评估，不代表真实工作中不会遇到缺失信息、异常输入、政策变化或高后果动作。HITL 是执行控制方式，不能替代模型评测、自动检查、访问控制和组织责任。

Human-in-the-Loop、On-the-Loop 与 Out-of-the-Loop

同一任务可以混合多种模式：AI 自动读取获准文件，遇到冲突来源时请人选择，继续起草，发布前再要求明确授权。人工监督是步骤级设计，不是整条流程只能贴一个标签。完整执行结构见什么是 Agentic Workflow？。

如需先了解更宽泛的类别定义，请阅读什么是 Agentic AI？。

AI 应在什么时候暂停并请人审核？

• 意图未解决： 请求存在几个实质不同的解释，受众、优先级或取舍应由负责人选择。
• 证据薄弱或冲突： 关键主张没有来源、当前文件互相矛盾，或建议依赖假设。
• 输出代表个人或组织： 公开文案、客户消息、提案、简历和高管建议会产生声誉或职业后果。
• 下一步会改变外部世界： 发送、发布、购买、删除、付款、授权或修改正式记录需要批准具体动作和载荷。
• 政策要求可追责判断： 法律、合同或内部制度规定必须由特定角色作出决定。

按风险选择审核模式

审核所有动作并不天然更安全。大量低价值提示会造成延迟，也会让人养成不阅读就批准的习惯。用四个问题决定监督强度：

1. 影响： 如果错了会怎样？
2. 可逆性： 能否快速、完整地撤销？
3. 可发现性： 错误会不会在造成损害前暴露？
4. 权限： 这项动作是否必须由人判断或授权？

不能只看模型置信度。AI 可能非常自信地犯错；低置信度输出也可能完全无害。后果与权限本身就是要求人工审核的理由。

五字段人工审核契约

“加入人工审核”不是可执行要求。每个审核门都应明确五项：

这套 Action–Evidence–Reviewer–Decision–Resume 契约让审核可以被实现和验证。少了任何一项，审核者都可能无法理解请求、行使权力或让任务恢复到可用状态。

示例：审核一套营销 Campaign Package

假设营销团队向 AI 提供产品资料、客户访谈、已批准主张和品牌规范，希望得到 Campaign Brief、落地页草稿、三封邮件和内部演示。

这个案例仅用于说明方法，不声称 Ottermind 或某个模型完成过实测生产任务。关键是定义从哪里恢复：事实源改变时，依赖旧事实的下游资产必须标为过期；定位被否决时，应回到 Brief，而不是逐个修补最终文件。完整过程见如何搭建 AI 营销工作流。

批准之外还需要哪些决定？

• 批准： 从已审核状态继续。
• 修改： 返回结构化反馈，从最早受影响的产物继续。
• 拒绝： 停止这条路线，同时保留来源、中间成果和理由。
• 接管： 人直接完成当前动作，再把结果状态交还任务。
• 升级： 转给具备所需权限或专业能力的人。
• 过期： 如果无人及时响应，在决定失效时安全停止。

Microsoft Agent Framework 把 HITL 建模成暂停执行的请求，收到外部回复后再继续。只会请求批准，却在拒绝后丢失上下文或无法继续的系统，只是在发通知，并没有真正形成回路。

怎样才算有意义的人工监督？

• 上下文： 把来源、预期影响、假设、历史决定和检查结果放在一起。
• 专业能力： 审核者必须理解领域和决定。
• 时间与注意力： 用简洁的事实表或视觉 diff 支持判断，避免让人给长记录背书。
• 权限： 审核者必须真的能够拒绝、改变路线或停止系统。
• 可追溯性： 记录提议、证据、决定人、修改内容和恢复状态。

人也会带入偏见，人机组合并不必然更正确。因此，“有人看过”不能证明结果可靠，审核设计本身也必须接受评估。

常见失败方式

• 审核太晚： 来源或策略已经错了，最后只看 Deck 无法阻止错误扩散。
• 每步都要求批准： 太多低价值提示会造成审批疲劳。
• 只显示摘要： 必须展示即将执行的内容、对象、时间和影响。
• 没有拒绝路径： 要预先定义停止、补证据、返回、接管或升级。
• 由错误的人批准： 有空不等于有权。
• 反馈没有改善流程： 重复修正应反馈到来源、验收条件、权限、自动检查和审核门位置。

如何设计 HITL AI 任务

1. 写明最终交付物和责任人。
2. 把任务拆成决定、草稿、检查和外部动作。
3. 按影响、可逆性、可发现性和权限评估每一步。
4. 适当自动化低风险准备与验证。
5. 在模糊判断和对外输出之前审核。
6. 在高后果动作前要求精确授权。
7. 为每个审核门填写五字段契约。
8. 设计修改、拒绝、接管、升级和过期路径。
9. 上游决定变化时，使受影响的下游成果失效。
10. 衡量被接受的成果、拦截的问题、审核耗时、推翻率和事故。

如何在执行前定义资料、限制和验收标准，可参考如何用 AI 自动化任务。

可复用的审核门模板

待执行动作：
[写明决定、输出、工具调用、目标位置和预期影响。]

审核证据：
- 可信来源：
- 假设或不确定性：
- 预览或变更摘要：
- 已完成的自动检查：
- 已知风险和回滚路径：

授权审核者：
[负责人角色与备份人。]

可选决定：
- 批准并继续
- 从 [产物或步骤] 修改
- 拒绝并停止
- 人工接管
- 升级给 [角色]

恢复行为：
[说明各决定之后保留、作废、执行或取消什么。]

过期条件：
[超过该时间后安全停止或重新检查。]

Ottermind 如何承接

Ottermind 是面向多步骤工作的 AI Agent 工作空间。任务可以从目标、文件、链接和项目背景开始，经过中间成果，形成报告、Brief、演示文稿或其他交付物。由于决定可以和来源、下游资产保持关联，团队能够审核证据表、批准计划或 Brief、修改方向，再继续工作，而不必把每次回答当作孤立对话。

Ottermind 不会替代责任人或领域审核。先从一个边界清楚、可以检查的交付物开始；发送、发布、购买、删除和修改正式记录等操作应保持在 Agent 权限之外，除非已有明确控制。

常见问题

HITL 和人工监督是一回事吗？

HITL 是人工监督的一种，任务会暂停等待人的输入。监督还包括运行中监控、抽样、审计、政策、自动检查和干预能力。

每个 AI 输出都需要人工批准吗？

不需要。控制应匹配影响、可逆性、可发现性和权限。私人工作大纲可以事后检查；公开主张、付款、删除或正式决定可能需要明确授权。

Human-in-the-Loop 与 Human-on-the-Loop 有什么区别？

前者会在指定审核门等待；后者在边界内继续运行，由人监控并在必要时干预。同一任务可以对不同步骤采用两种方式。

人工审核能保证 AI 正确吗？

不能。审核者也可能缺少背景、能力、时间或独立性。只有角色、证据、决定权和反馈路径设计合理时，人工审核才会增强控制。

一个流程应该有多少审核门？

使用能够保护关键决定和动作的最少数量。优先覆盖意图、证据、对外代表、高后果动作和正式权限边界。

审核者拒绝后应怎样处理？

系统应保留证据和决定记录，停止原动作，并按预设分支修改、补充信息、转为人工处理、升级或安全结束。

结论

Human-in-the-Loop AI 不是一句“有人会检查”。它是一套具体控制设计：正确的动作暂停，正确的证据可见，正确的人拥有真实选择，任务能够安全继续或停止。

把人放在判断、后果和责任最集中的位置，让边界明确的低风险准备工作免受持续打断。最后衡量这套回路是否真正拦截了有意义的问题，而不是只收集批准记录。

来源

• NIST AI Risk Management Framework Core
• NIST AI RMF Appendix C: Human-AI Interaction
• Anthropic: Trustworthy agents in practice
• Microsoft Agent Framework: Human-in-the-loop