📚 AI 能力边界与系统建设 #AI架构 #任务分流 #方法论

任务分流:什么交给 AI、什么必须代码或人工

AI 不是万能处理器,代码规则也不是。用可靠性、容错、责任三个维度给任务分类,回答「这个任务该谁干」。

✍️ diunilaomei 📅 2026-08-31 📝 约 1060 字 ⏱️ 约 3 分钟
📑 章节目录
字号

前两章建立了「能力分层」和「能力声明」,这一章处理选任务之前的问题:一个具体任务,到底该交给 AI、规则代码,还是人工? 拍脑袋的后果很常见——把「该用规则」的任务塞给 AI(又贵又飘),把「该让 AI 做」的任务硬写成规则(维护到崩溃)。

三个判断维度(先于一切技术讨论)

  1. 可靠性要求:这个任务答错了,代价是什么?(推荐语错了无所谓 vs 退款金额错了要赔钱)
  2. 容错空间:允许「概率性正确」吗?能接受偶尔错、但可被发现和纠正吗?
  3. 责任归属:错了谁来负责?责任能不能落到人(AI 没法背锅,上一章讲过)?

三个维度组合,任务自然分成四类:

类别特征归属
规则任务输入有限、规则明确(金额计算、状态判断)代码:快、免费、100% 可测
辅助任务需要理解,但错了可纠正、有人兜底(摘要草稿、初稿生成)AI 辅助人:AI 出初稿,人确认
智能任务需要理解 + 容错有限(复杂问答、内容生成交付)AI 为主 + 护栏:声明表 + 度量 + 降级
责任任务错不起、责任重(财务、法律、医疗结论)人做决定:AI 只整理材料

心法:AI 的生态位是「语言/图像类理解」——凡是不需要理解的任务,先问代码;凡是错不起的任务,先问人工。 用代码和人工把两头守住,AI 只在中间那段发光。

决策树(拿来就能用)

任务的输入是可穷举的规则吗?
├─ 是 → 代码(正则/查表/状态机),别碰 AI
└─ 否 → 答错的代价是什么?
     ├─ 不可接受 → 人能兜底吗?
     │    ├─ 能 → AI 辅助人(出稿/建议,人确认)
     │    └─ 不能 → 别上 AI(责任任务)
     └─ 可接受或可发现 → AI 为主 + 护栏(引用/拒绝/降级)

分流之后:别让「边界」在系统里消失

分流是设计时的决定,但用户不按设计走——系统运行时要有第二次分流

  • 输入侧:能走规则的先走规则(命中规则直接返回,不调模型——省一半成本,成本篇的做法在这里复用)。
  • 入口侧:模型「不确定」时主动转人工(拒绝回答分支,见幻觉治理)。
  • 兜底侧:AI 失败(超时、工具错误)时降级到规则答案或人工(第 7 章)。

第一次分流决定「设计上归谁」,第二次分流决定「运行时归谁」——两次都要做,边界才不会只剩文档。

一个判断练习(对照你的功能)

  • 输入校验、格式转换 → 代码(现在调 AI 了吗?改回来)
  • 内容分类打标签 → AI(但要定义「分错怎么办」)
  • 根据用户描述给出退换货方案 → AI + 人工确认(高风险项转人工)
  • 决定是否批准退款 → 人(AI 只给材料)

落地清单

  • 用三维度(可靠性/容错/责任)给你的每个任务分类
  • 规则能做的先做规则,两头(代码/人工)守住
  • 设计运行时二次分流:规则优先、模型不确定转人、失败降级
  • 把「分流表」写进功能文档,随需求变更更新

相关:AI 能力边界总纲能力声明表

相关阅读

栏目全部 →