向量数据库不是万能锤,别把RAG做成技术自嗨
摘要:本文指出向量数据库仅解决相似度检索,RAG失败多源于数据治理与场景误判。文章剖析为RAG而RAG、忽视元信息与评估缺失等问题,主张融合召回与可观测闭环,避免技术自嗨。
过去一年,检索增强生成几乎成了每个技术团队汇报里绕不开的关键词。只要项目沾上大模型,架构图里就必然出现一个向量数据库的图标,仿佛只要把文档切片、灌进向量库、再拼一段提示词,智能问答就能自然长出来。可真正上线跑过几轮的人心里都清楚:多数RAG项目失败的原因,根本不是向量数据库选得不够新,而是从立项那天起就把工具当成了答案。
向量数据库解决的只是“相似度检索”这一件事。它擅长在稠密向量空间里找近邻,却完全不理解你的业务语义、权限边界和时效要求。很多团队把PDF粗暴切块后直接embedding,结果检索出来的片段要么语义断裂,要么把三年前的过期制度当成现行规定返回给用户。问题出在数据治理和切分策略上,换再贵的向量库也救不了。把检索质量问题归咎于索引算法,本质上是用工程手段掩盖信息架构的懒惰。
更值得警惕的是“为RAG而RAG”的倾向。有些场景明明用结构化查询加规则引擎就能稳定解决,比如订单状态查询、库存余量核对,却非要绕一圈做语义检索,再让模型从一堆相似片段里猜答案。这种设计不仅增加了链路延迟和幻觉风险,还让系统变得难以测试和归因。RAG的适用边界其实很窄:它适合处理非结构化知识、开放域问答和模糊匹配类需求。一旦问题本身有明确的结构化答案,传统检索和数据库查询的确定性远胜于向量近邻。
另一个常见误区是把向量数据库当成知识库本身。向量库存储的是嵌入表示,原始文档的版本、来源、生效时间、访问权限这些元信息,往往在入库时被随手丢弃。等到需要做引用溯源、权限过滤或增量更新时,才发现向量库里只剩一堆无法解释的浮点数。成熟的做法是把向量检索定位为召回层的一环,前面接文档解析与元数据抽取,后面接重排序与答案校验,中间还要有缓存和降级策略。整条链路的复杂度,远不是“接个向量库”四个字能概括的。
从工程视角看,RAG的评估体系也常被忽视。很多团队上线前只做几条demo问题的肉眼验收,缺少召回率、答案忠实度、上下文相关性这些可量化指标,更谈不上回归测试集。结果就是每次调整切分参数或更换嵌入模型,效果波动全凭感觉。真正靠谱的做法是先建立小规模但覆盖典型意图的评测集,把检索和生成分开度量,再决定优化方向。没有评估的RAG迭代,和蒙眼调参没有区别。
向量数据库本身也在快速演进,混合检索、标量过滤、多向量支持逐渐成为标配。但这恰恰说明一个事实:单一向量近邻已经不够用了,行业正在往“向量加传统检索加过滤”的融合方向走。既然如此,架构设计之初就不该把宝全押在向量库上,而应把关键词检索、结构化过滤、图关系查询都纳入召回策略,让向量检索只承担它最擅长的语义泛化部分。工具没有错,错的是把工具当成万能锤,看什么都像钉子。
说到底,RAG是一项系统工程,涉及数据清洗、切分策略、嵌入模型选型、召回融合、重排序、提示词约束、答案校验和持续评估。向量数据库只是其中一块拼图,而且是可以被替换的一块。技术团队真正该投入精力的是理解业务知识的组织方式,是建立可观测、可回归的评估闭环,是设计好失败时的降级路径。把这些做扎实,哪怕用最朴素的关键词检索加规则过滤,效果也未必输给堆满新组件的方案。反过来,如果信息架构一塌糊涂,再先进的向量库也只能帮你更快地检索到错误答案。
别让技术选型变成自嗨的表演。下一次在架构评审里看到向量数据库的图标时,不妨先问三个问题:这批数据真的需要语义检索吗?检索结果的可解释性和权限控制怎么保证?效果变差时我们靠什么发现?回答不了这三个问题,那个图标就只是装饰。