去年我们做了个AI客服，说接入自己的知识库，用户问问题AI能根据知识库回答。这个技术叫RAG——先从知识库里检索相关文档，再让AI根据文档生成回答。

听起来很靠谱。做了之后说点真实经历。

第一个坑：检索不准。

用户问"怎么退款"，AI去知识库里找相关文档。它找了半天，找了个"退货流程"的文档。退款和退货不是一回事，但它觉得差不多。

然后它根据退货文档生成回答，把退货流程当成退款流程告诉用户。用户照着做，结果不对。来问第二次，我们才发现。

问题出在检索环节。AI不知道"退款"和"退货"的区别，它只看关键词相似度。它觉得这两个词差不多，就给你找了差不多的文档。

第二个坑：它会瞎编。

有时候知识库里根本没有相关内容。AI检索了一圈，没找到合适的。按说它应该说"我不知道"。但它不。它根据找到的不太相关的文档，硬编了一个回答。

有次用户问了个我们知识库没有的问题，AI编了个答案，看起来还挺像那么回事。要不是我们人工抽检，根本发现不了。

这就是RAG最大的风险：它看起来很专业，但你不知道它说的是真的还是编的。

那RAG到底怎么用才靠谱？

别指望它全自动。你得有兜底。

检索到的文档，AI基于它回答。但如果AI的置信度低，或者知识库里没有相关内容，它应该转人工。不能硬答。

我们后来加了一层：AI回答完，先判断这个回答的依据足不足。不足的，转人工客服。这样不会出大错。

做RAG不是搭完就完了。你得测试、得抽检、得兜底。别让AI自己瞎答。

说个更真实的后续。我们后来花了很多时间优化知识库。把文档重新整理，把容易混淆的概念写清楚，把常见问题单独列出来。

优化完之后，准确率确实上去了。但还是不是100%。总有一些问题是知识库里没有的，或者AI理解偏了。

后来我们想明白了：RAG不是万能的。它能解决大部分常见问题，但复杂的、特殊的问题，还得人来。

所以现在我们的客服流程是：AI先答常见问题，答不了的转人工。这样既省了人力，又不会出错。

做AI产品这个事，别追求完全自动化。能自动化多少自动化多少，剩下的交给人。这样最稳。

RAG技术不难，难的是你要持续维护知识库。文档更新了，你得同步。问题变了，你得补充。

别搭完就不管了。不管的知识库，迟早变成一堆过时信息。

真的。

别不管。

持续维护。

真的别。

听我的。

真的。

别偷懒。

真的。

就这样。

嗯。

就这样吧。