怎么给 AI 工作流加上人工审核环节？

学完这篇，你能给自己的 AI 工作流插进一个「暂停 → 人工确认 → 继续执行」的闸门，并且知道哪些节点必须设卡、怎么防止流程被人卡死。

第一步：先确定审核点，别每个环节都插人

这一步要做什么：列出工作流里所有动作，标出哪些必须人工放行。做完你能得到一张「审核点清单」，避免后期返工。

判断标准只有三条：动作不可逆（删数据、发邮件、下单、付款）、对外可见（发公众号、回客户消息）、涉及权限或钱。满足任意一条就设卡，其余放行。

实际配置时按风险分级：高风险 100% 人工审，中风险抽检 5%～10%，低风险只记录日志。全量人工审核跑不了三天，审核人就会变成无脑点「通过」。

注意：别用「让 LLM 再检查一遍 LLM 的输出」替代人工。同一个模型自查，错的地方会一起错。

第二步：把流程拆成「可暂停」的两段

这一步要做什么：让工作流能在审核点真正停下来，而不是卡在线程里。做完你会得到一套任务状态表。

建一张表，字段至少包含：

CREATE TABLE ai_tasks (
  id           BIGSERIAL PRIMARY KEY,
  status       TEXT NOT NULL,   -- pending_review / approved / rejected / executed
  input_text   TEXT,
  ai_output    TEXT,
  model        TEXT,
  reviewer     TEXT,
  review_note  TEXT,
  reviewed_at  TIMESTAMPTZ,
  created_at   TIMESTAMPTZ DEFAULT now()
);

状态流转固定为 pending_review → approved/rejected → executed，禁止跳级。AI 干完活先写库，状态置为 pending_review，然后触发通知给审核人。

第三步：用 n8n 搭出闸门（1.6x 版本）

这一步要做什么：把「调用模型」和「执行动作」拆成两个工作流，中间用 Wait 节点挂起。做完你会得到一个能停住等人的流程。

在自建 n8n（Docker 镜像 n8nio/n8n:1.6x）里新建工作流，按顺序连：

1. Webhook 节点：Method 选 POST，Path 填 ai-request；
2. HTTP Request 节点：调你的大模型接口，Body 里带 prompt；
3. Postgres 节点：Operation 选 Execute Query，把结果 INSERT 进 ai_tasks，status 写死 pending_review；
4. Wait 节点：Resume 选 On Webhook Call，Resume Webhook URL 复制出来保存；展开 Options，打开 Limit Wait Time，Resume After 填 24 hours；
5. IF 节点：条件写 {{$json.status}} 等于 approved，真分支走执行动作（发邮件、调下单接口），假分支走「记录拒绝原因」。

审核通知用飞书群自定义机器人（群设置 → 群机器人 → 添加机器人 → 自定义机器人），消息里带上 Resume Webhook URL 加上 ?status=approved&token=xxx 和 ?status=rejected&token=xxx 两个链接。

第四步：做一个 30 秒能点完的审核页

这一步要做什么：让审核人有地方看清楚「AI 到底干了什么」再决定。做完你得到一个带鉴权的审批入口。

n8n 1.6x 自带 Form Trigger 和 Form 节点，可以直接拼出一个表单页；如果你用的是老版本，就用 FastAPI 写个 20 行的页面：GET /review/{task_id} 渲染表单，POST /api/review 更新状态并回调 Resume Webhook。

页面上必须展示五项：用户原始输入、AI 输出全文、AI 声称调用的工具和参数、模型名称与版本、生成时间。少一项，审核就退化成盖章。

Token 用 HMAC 签名，带 24 小时过期时间，避免链接被转发后被外人点。

注意：回调 Resume Webhook 之前，先 UPDATE ai_tasks SET status='approved' WHERE id=? AND status='pending_review'，靠受影响行数判断是否已被处理。否则审核人连点两次，动作就执行两遍。

第五步：补上超时和留痕

这一步要做什么：处理「没人审」和「出了事怎么查」两个问题。做完流程才敢上生产。

超时策略二选一：24 小时未审自动拒绝并通知发起人，或者升级给主管。别设成「自动通过」，那等于没审。

留痕全存数据库：谁审的、什么时候审的、审核意见、是否修改过 AI 输出。字段已经在第二步建好了，直接写就行。

注意：审核意见如果被用来微调模型，先脱敏。审核记录里往往带着客户真实信息。

小结

• 只在不可逆、对外可见、涉及钱和权限的节点设卡，其余按 5%～10% 抽检；
• 用状态表 + Wait 节点把工作流拆成两段，状态流转不允许跳级；
• 审核页必须给出原始输入、AI 输出、调用参数、模型版本、时间这五项；
• 回调前用条件更新防重复执行，超时默认拒绝而不是默认通过。