2026年还听不懂RAG？用点外卖的例子讲清楚

年初我跟一个做电商的朋友聊，他说他们公司上了个智能客服，能回答退货政策。我问他底层啥技术，他脱口而出RAG。其实这个词2026年已经不算新了，但很多人还是把它和大模型混为一谈，以为换了个模型就啥都会。

说白了，RAG就是先查资料再答题。大模型本身记的东西是训练时灌进去的，会过期，而且你公司内部的文档它根本没见过。RAG的做法是：用户提问，系统先从你的知识库里检索出相关片段，把这些片段拼进提示词，再让模型基于这些材料回答。有点像你点外卖前先翻大众点评，看完了再决定吃哪家，而不是凭记忆乱点。

我上个月帮一个律所搭了套RAG，用来查他们自己十年的案卷。关键点不在模型多强，而在检索那一步。我们用的是向量数据库，提示词里还硬性要求只基于给定材料回答，不知道就说不知道。上线两周，助理查一份合同的效率从平均20分钟降到了3分钟，老板当场拍板要给团队都配上。

坑也有。材料没清洗，PDF里的页眉页脚混进去了，模型经常答非所问，还一本正经地编。所以做RAG，八成的功夫在喂资料这一步，不是调模型。切片切太大或太小都不行，我们试了三四种粒度才定下来。

2026年RAG的新方向是图谱RAG和会自己决定要不要再查一次的agentic RAG。但对大部分中小公司，先把基础的检索质量做上来，比追新概念实在。别一上来就买最贵的向量库，先用你现有的文档试试水，跑通了再花钱。

最后提醒一句，RAG不是万能药。它适合知识明确、答案能从文档里找到的场景。那种需要推理和创意的活儿，它照样抓瞎。选对场景，它才是神器。

标签： RAG 大模型 检索增强