附录 B · 架构对比速查

六种方案横向对比:一眼看清成本、延迟、可控性和适用场景。 配合附录 A 的决策树使用:决策树选出方案,这里核对它的代价。

六种方案总对比

方案	结构	相对成本	延迟	可控性	出处	适用
纯 Prompt	单次 LLM,无检索	低	快	高	❌	闲聊、通用生成
RAG 答疑	检索 + 单次 LLM	低	快	高	✅	教材问答(主力)
路由 + RAG	分类 → 分支检索	低～中	快	高	✅	多类型答疑
单次 Function Calling	检索 + 一次固定工具	中	中	中～高	✅	查进度、记错题
编排 / 评估循环	动态拆 / 打磨循环(你控制)	中～高	中	中	✅	学情报告、文案
自主 Agent	模型自主 ReAct 循环	高	不可控	低	⚠️	真·开放任务

从上到下:越强、越贵、越难控。默认往上选,往下是不得已。

两种「阅读器 AI」架构

❌ 常见翻车架构

浏览器
  ├─ 带 API Key 调 LLM(或前端代理)
  ├─ 按 sectionId 拉两节全文
  └─ 拼进 prompt → 返回答案

问题: Key 暴露、无真检索、token 浪费、难 Eval、名不副实叫 Agent。

✅ V1 推荐架构

浏览器(阅读器 UI)
    ↓
后端 BFF(Key 只在这里)
    ├─ 检索:知识库 / 向量库 / 章节索引
    ├─ 拼装:System + 检索 chunks + 用户问
    └─ 调 LLM(流式)→ 答案 + 引用章节

是 Workflow,不是 Agent —— 但可测、可管、可升级。

✅ 生产架构(加支撑层)

用户层 → 应用层(BFF)→ 编排层(路由)→ 能力层(LLM / 向量 / Tools)
                                    ↓
                    支撑层:缓存 · 护栏 · 日志 · 成本监控 · 评估 · 降级

成本控制速查

选对档位:默认中端快速模型,难题才升级
路由升级:先便宜模型,搞不定再上贵的
缓存:   响应缓存 + 提示缓存(固定长前缀)
精简上下文:RAG 只取相关 + 历史压缩
控输出长度:输出比输入贵,别让它啰嗦
本地兜底:敏感 / 高频用本地模型闭环

安全防御速查(多层叠加)

① 训练层  RLHF 底线        （可能被越狱）
② 系统层  System Prompt     （可能被注入覆盖）
③ 输入层  护栏过滤          （可能漏）
④ 输出层  护栏过滤          （可能漏）
⑤ 执行层  沙箱 + 审批 ⭐     （最后防线,Agent 必备）

降级策略速查

故障	兜底
模型超时 / 报错	重试 → 备用模型 → 固定话术
检索为空	「未找到,建议问老师」,不硬编
工具失败	「暂时查不到」,不让模型编
成本 / 轮数超限	Agent 熔断,退回 Workflow
置信度低	拒答 / 转人工

第一原则:宁可说「我不知道」,也不要编。

附录 B · 架构对比速查 ​

六种方案总对比 ​

两种「阅读器 AI」架构 ​

❌ 常见翻车架构 ​

✅ V1 推荐架构 ​

✅ 生产架构(加支撑层) ​

成本控制速查 ​

安全防御速查(多层叠加) ​

降级策略速查 ​

延伸阅读 ​

附录 B · 架构对比速查

六种方案总对比

两种「阅读器 AI」架构

❌ 常见翻车架构

✅ V1 推荐架构

✅ 生产架构(加支撑层)

成本控制速查

安全防御速查(多层叠加)

降级策略速查

延伸阅读