Skip to content

三、RAG(检索增强生成)⭐ 企业落地核心

RAG = 给 AI 开卷考试:不靠它背,靠它现查现答。让 AI 懂你的私有数据 + 不幻觉。

工作流

【建库·离线】
资料 → 切块(Chunking) → Embedding(向量化) → 存进向量库

【问答·在线】
用户问题 → Embedding → 向量库语义检索 → 取最相关的几块
   → [相关资料 + 问题] 拼成 Prompt → LLM → 带出处的准确回答
  • Embedding:把文字转成向量,让"意思相近"的文字"距离相近" → 能按语义检索(词不同意思近也能找到)。
  • 切块大小:常见 300-800 字,太大不精准/费 token,太小丢上下文。
  • 检索数量:一般 top 3-5 块。
  • 技术选型(Laravel 友好):pgvector(会 SQL 最省事)+ embedding API/本地模型 + LLM。
  • 内网闭环:本地 embedding + pgvector + Ollama 本地模型 = 数据完全不出内网。

© 曹宇春 · 个人学习整理,欢迎交流