Skip to content

第 05 课 · 编排-执行与评估-优化

提示链和路由解决「固定步骤」;本课解决两种「不那么固定」的情况。 子任务数量事先不知道 → 编排-执行;要对同一产物反复打磨 → 评估-优化。中间穿插「并行」的正确用法。


本课要解决的问题

第 04 课的提示链要求「步骤固定」。但有两类需求它撑不住:

  • 「生成一份 学情报告」—— 薄弱点几个、建议几条,因人而异,拆几步事先不知道。
  • 「写一段 招生文案」—— 一次生成不够好,要 改到达标

这两类分别对应 编排-执行评估-优化。本课还会讲清 并行 什么时候用。

⚠️ 注意:这三种 仍是 Workflow(结构你定),不是自主 Agent。区别在于「结构里带了动态拆分或循环打磨」,但循环 由你控制,不是模型自主决定路径。


一、并行 Parallelization:同一时间跑多个

本质: 多个 相互独立 的子任务,同时跑,再汇总。

两种用法

用法场景例子
分工并行一个大任务拆成独立块一份报告的「知识点掌握 / 出勤 / 建议」三块同时生成
投票并行同一问题跑多次取共识关键判分问 3 次投票,提可靠性

何时用

子任务彼此不依赖 → 并行(省时间)
子任务要用上一个的结果 → 不能并行,回提示链
批量同类任务(批改 50 份) → 并行 + 限流(别把下游打爆)

最常见误用: 把 50 份作业一份份丢进循环串行跑 → 超时。独立就该并发(注意并发上限与限流)。


二、编排-执行 Orchestrator-Workers:主脑动态拆活

本质: 一个「主脑」先看输入,动态决定拆成几个子任务,分给「工人」执行,再汇总。和提示链的区别 —— 子任务数量事先不固定

典型场景:生成学情报告

主脑(Orchestrator):看这个学员的数据
   → 动态拆:薄弱点有 3 个 → 派 3 个「讲解+建议」子任务
             出勤异常 → 加 1 个「提醒建议」子任务

工人(Workers):各自完成子任务(可并行)

汇总(Synthesizer):拼成一份完整报告

换个学员 → 薄弱点可能 5 个、无出勤问题 → 主脑拆出的子任务数就不同。这就是「动态」。

何时用

子任务数量因输入而变 → 编排-执行
子任务数量固定 → 用提示链就行,别上编排(过度设计)

风险

  • 主脑拆错 → 后面全歪:主脑那步要 结构化输出 + 校验
  • 子任务多 → 成本 / 延迟涨:设 上限,超了降级(如「只报 Top 3 薄弱点」)。

三、评估-优化 Evaluator-Optimizer:生成→批判→改

本质: 一个「生成器」产出内容,一个「评估器」按标准打分并给改进意见,循环打磨到达标。

典型场景:招生文案 / 讲义翻译

生成:写一版文案

评估:按标准打分(是否合规、是否吸引、有无夸大)+ 指出问题

达标?── 否 → 带着意见改 → 再评(循环,设最多 N 轮)
       └ 是 → 输出

关键:评估标准要「可判定」

❌ 「写得好一点」        → 评估器无从下手
✅ 「必须包含课程亮点、字数 100~150、无绝对化承诺」→ 可逐条判定

何时用

产物质量要收敛、有明确好坏标准 → 评估-优化
一次生成就够 / 无客观标准 → 别上,循环只是烧钱
最多循环轮数一定要设上限 → 防止无限打磨

和自主 Agent 的区别: 这里的循环是 「生成↔评估」两个固定角色,路径你定死;Agent 是模型自己决定下一步调什么工具。


三种模式怎么选(接第 02 课决策树)

你的情况模式
独立子任务,想省时间并行
子任务数量因输入而变编排-执行
同一产物要反复改到达标评估-优化
子任务数量固定、顺序固定提示链(第 04 课)

本课结论

  1. 并行:独立子任务同时跑,注意限流;别把独立任务串成长循环。
  2. 编排-执行:主脑 动态拆 子任务,数量不定时才用,主脑那步必校验、设上限。
  3. 评估-优化:生成↔评估循环打磨,评估标准必须可判定,循环必设上限。
  4. 三者仍是 Workflow:循环由你控制,不是模型自主规划路径。
  5. 别过度设计:固定就用提示链,能并行别串行,没客观标准别硬上评估循环。

课后自检(3 分钟)

  • [ ] 我的并行子任务确实互相独立,且设了并发上限 / 限流
  • [ ] 我用编排-执行,是因为子任务数量真的因输入而变
  • [ ] 我的编排主脑那步有结构化输出 + 校验 + 子任务数上限
  • [ ] 我的评估-优化有「可逐条判定」的标准和最大循环轮数
  • [ ] 我没有把「固定步骤」的任务错做成动态编排

下一课预告

第 06 课 · 自主 Agent:最后才选的那档 —— 什么时候才真需要 ReAct 自主循环,上线前必须备齐哪些前置条件。


延伸阅读


© 曹宇春

© 曹宇春 · 个人学习整理,欢迎交流