Appearance
模型与成本落地 · 前言与导读
面向已经会调大模型 API 的开发者:选型、控费、换模型怎么落地。
作者:曹宇春
📌 导读(全景总结)
三句话地基
① 模型能力榜 ≠ 生产可用:延迟、稳定、配额、合规都进账单
② 成本 = 单价 × Token × 次数 ×(重试 + 超长上下文系数)
③ 先定场景与预算,再选模型;用配置切模型,别硬编码散落各处全书三篇
选型篇:贵不等于对 · 账单怎么算 · DeepSeek/文心/闭源怎么选
路由篇:多模型切分 · Key 与 BFF · 流式与超时
稳态篇:限流缓存降级 · learn 助教真实换模案例和站内其它书怎么配合
| 书 | 分工 |
|---|---|
| 《AI 应用开发手册》 | RAG/Agent/提示——能力怎么组 |
| 《Agent 工程手册》 | 要不要上 Agent——架构拍板 |
| 本书 | 用哪家模型、钱怎么花——账单与切换 |
| 《Claude Code》 | Coding Agent 终端侧——另一条线 |
建议路径:AI 手册打底 → 本书选模控费 → 要做 Agent 再读 Agent 工程。
五条心法(只记这 5 句)
- 先场景后榜单——答教材题和写长篇代码不是同一档需求
- 量输入输出——多轮对话里历史消息才是吞 Token 的大户
- Key 永不进前端——BFF / CFC 藏密钥(本站就是这样做)
- 配置化模型名——环境变量一切,灰度才方便
- 失败也要有价——超时重试会把测完「一分钱」变成「一块钱」
读完你能做什么
- 给产品估一版粗算月费
- 能说清何时用 DeepSeek、何时留强模型兜底
- 在 CFC / 后端里安全换模型,并做降级