十七、模型选型与成本优化 ⭐ 工程的经济账

选型:让模型能力匹配任务难度,别高射炮打蚊子。省钱:费用主要在token。

选型五维度

能力 · 速度 · 成本 · 上下文窗口 · 模态(+隐私)。

模型分档

旗舰(Opus/GPT顶配):最强,复杂难题,贵慢
中端快速(Sonnet/Haiku/mini):日常主力,性价比高 ⭐ 默认用它
推理模型(o系列):数学/代码/逻辑难题,更贵更慢
本地开源(Qwen/DeepSeek+Ollama):敏感/省钱/离线

心法:默认中端档,搞不定才升级。

成本原理

费用 = 输入token×价 + 输出token×价
① 输出比输入贵2-5倍 → 让它别啰嗦
② 上下文越长越贵
③ 推理模型"思考"也算输出token,特别费
④ 对话历史累积 → 越聊越贵

省钱技巧(最有效:选对档位 + 精简上下文)

选对档位 · 路由升级(先便宜再贵) · 响应缓存 · 提示缓存(缓存固定长前缀) · 精简上下文(RAG/压缩) · 控制输出长度 · 批处理 · 本地兜底。

提速

流式输出 · 小/快模型 · 缓存 · 并行 · 减少Agent步数。

---