一文讲懂 RAG:什么是 embedding、余弦相似度召回

一文讲懂 RAG:什么是 embedding、余弦相似度召回

admin
2026-11-11 / 0 评论 / 8 阅读

一文讲懂 RAG:什么是 embedding、余弦相似度召回

前两天博客的 AI 客服上线后,有朋友问我后台这套东西到底是什么原理。正好这里面有三个 AI 圈的高频词:RAG、embedding、余弦相似度召回。这篇文章用大白话把它们讲清楚,例子全部来自我博客里的 AI 客服。

什么是 RAG

RAG(Retrieval-Augmented Generation,检索增强生成),一句话概括:AI 回答之前先"查资料",把查到的内容塞进提示词里,让模型照着资料说,而不是凭记忆瞎编。

大模型本身有个致命弱点:它不知道你的私域数据。它不知道我这个博客写过什么文章、发布日期是几号,硬问它就只能编——之前 AI 客服把 2026-11-01 发布的文章说成 2024-07-21,根因就是没有资料可依。

RAG 的完整流程:

  1. 用户提问:"最新发布的文章是哪篇?"
  2. 向量检索:拿问题去文章库里算相似度,捞出最相关的几段
  3. 拼进提示词:把召回的文章片段、标题、日期组装进系统提示词
  4. 大模型回答:模型照着资料说话,还能附上真实文章链接

没有 RAG 时模型只能编造;有 RAG 时答案来自真实文章。之前日期答错,本质就是这一步缺了"日期必须照抄资料标注"的约束。

什么是 embedding

embedding(向量化/嵌入)是把一段文字变成一串数字(向量)。文字意思越接近,向量在空间里的位置就越接近。

计算机不理解文字,但懂数字之间的距离。embedding 模型就是"翻译官"——把人类语言翻译成几何坐标。比如:

  • "怎么装 PySide6"、"桌面程序用什么框架"、"Python 做界面"——这三句话字面完全不同,但意思接近,所以向量会聚成一簇
  • "AI 客服答错日期"、"大模型瞎编问题"——聚成另一簇

用户提问"怎么用 Python 做个窗口软件",它的问题向量会落在"Python 界面"那一簇旁边,离 RAG 那一簇很远——于是 Python 相关的文章被捞出来,无关的不捞。

我的插件用的是硅基流动的 BAAI/bge-m3 模型,每段文字变成 1024 维的向量。文章入库时切成 400 字一块(最多 20 块),逐块做 embedding 存进自建的 typecho_aichat_chunks 表;用户提问时,问题本身也会实时做一次 embedding。

什么是余弦相似度召回

有了向量之后,怎么判断"这段文章和这个问题相不相关"?答案是算两个向量之间的夹角。

公式:cosθ = A·B / (|A|×|B|),结果在 -1 到 1 之间:

  • 1 = 方向完全相同(语义几乎一样)
  • 0 = 垂直(无关)
  • -1 = 完全相反

"召回"(recall)就是拿问题的向量跟库里每段文章的向量算分,从高到低排序,超过阈值的才捞出来喂给模型。我的插件阈值设的是 0.6——低于 0.6 的片段一律不信任。

这里有个实践坑:bge-m3 这类模型的余弦分数基线偏高,随便两段中文都能算出 0.45 以上。最初阈值设 0.45 时什么都往回捞,一堆无关内容挤占提示词,后来提到 0.6 才干净。

三者的关系

用一句话串起来:

  • embedding 是"翻译官":把文字翻译成计算机能比较的数字
  • 余弦相似度 是"打分器":用向量夹角判断相关性,决定捞哪几段
  • RAG 是"整套架构":检索(Retrieval)→ 增强(Augmentation)→ 生成(Generation),先查资料再回答

踩坑感悟

接完这套东西最大的体会:接大模型不难,难的是让它"不瞎说"。

语义检索是"按意思找",天生不懂时序——问"最新发布的文章是哪篇",按相似度召回完全答不对,得识别出这是时序问题后绕过检索直接查库。模型看到正文里出现"2024年7月21日"会顺手当成发布时间,得在提示词里写死"日期必须照抄资料标注,未标注就说不知道,禁止把正文日期当发布时间"。

RAG 的真正工作量,就在这些细节上。

0

评论 (0)

取消
0:00