大语言模型擅长即时推理,却不记得私有知识。要让它回答企业文档、个人笔记等专属内容,常见做法是检索增强生成:先把资料切分、向量化存入数据库,回答时检索最相关片段再交给模型生成,从而把通用模型和企业Know-How连接起来。
向量检索的本质,是把文本编码成高维向量。语义相近的文本在向量空间里距离更近,查询时把问题也编码成向量,召回最近的若干片段,就能得到意思相关的内容,而非仅关键词匹配。这让搜索从字面对齐走向语义对齐,能理解同义改写与隐含意图。
工程上有几个要点:切分粒度、嵌入模型选择、检索召回数都会影响效果。切分太大噪声多,切分太小又容易断章取义;召回太少信息不足,召回太多则会让模型分心。需要结合业务反复调参才能稳定产出可靠结果。
向量数据库让大模型具备了可更新的外部记忆,是企业落地 AI 最务实的路径之一。它把模型知道什么与企业拥有什么解耦,既保护私有数据,又让回答更贴合真实业务,因此成为 RAG 应用不可或缺的基础设施。