跳到主要内容

人工审批(HITL)治理

人工审批(HITL)治理让运营者可以要求 Agent 在执行敏感操作之前必须获得审批。

HITL 为何重要

Agent 可以快速起草、搜索、总结并准备工作。但有些操作仍然需要明确的人工确认:

  • 发送对外消息。
  • 发布公开内容。
  • 在敏感位置写入文件。
  • 触发有副作用的集成。
  • 运行 shell 命令。

操作分类

工作区规则以自然语言编写,并映射为运行时应用于工具调用的强制执行模式:

  • 允许:Agent 可以继续。
  • 需要人工审批(HITL):Agent 暂停;由人审阅确切的操作和负载,然后批准或拒绝。
  • 阻止:在工具运行之前操作即被拒绝。
Manor AI 聊天中针对高影响受治理操作的审批提示

审批出现在哪里

审批会出现在工作发生的地方:

界面行为
聊天审批卡片内联渲染;你做出决定后运行继续。
任务执行步骤显示为等待人工输入;恢复任务或重试该步骤会记录你的决定。审批类型的任务自带一个批准 / 请求修改面板。
计划生成的计划可以要求在执行前签核(POST /api/v1/plans/{plan_id}/approve)。
工作流带审批语义的 wait 节点会暂停运行,等待运行所有者的明确决定;后续节点可以将该审批转换为持久的、有时限的操作授权,使重复运行不必为同一已批准范围再次发起提示。

运营指南

从保守开始。对不可逆或对外可见的操作要求人工审批(HITL)。当你对某个工作流和账号边界建立信任之后,再有选择地为低风险自动化放宽审批要求——操作授权和逐条规则的修改让你不必整体关闭治理就能做到这一点。

在工作区的治理视图中审阅治理(GET /api/v1/workspaces/{id}/governance),它展示了生效的规则及其如何映射到强制执行。

可审计性

审批提示和工具调用都会留下证据:请求了什么、谁批准的、之后发生了什么。执行日志、工作区活动信息流和运行追踪(密钥已清除)使事后审查成为可能,而无需凭记忆重建事件。