做了个本地知识库,最后没用 RAG,讲讲思路

平时写方案、找历史素材、追溯纪要,文档积了几百份。想用 AI 把这事优化下,试了一圈 RAG 框架,最后都没留下,自己用 ripgrep + 提示词搭了一套。 为什么没用 RAG,几点实在的: 1. 我文档是几百份,不是几百万份。RAG 真正的价值在文档量大到不向量化就检索不动的时候。几百份的话,ripgrep 全库扫一遍 1-2 秒,根本没性能问题需要解决。 2. RAG 答案不可追溯。向量召回是"语义相近",但相近不等于对。我点开引用看原文,经常发现"原文在讲另一件事,只是字面像"。 3. 中文 + 行业用词场景,通用 embedding 没那么好用。我素材里"专班""挂网""评分点""标段"一大堆,通用 embedding 对它们的理解还不如字符匹配。 4. 现在 LLM context 已经够大。早期 RAG 流行是因为塞不下整份文档,现在 100K-200K 起步,让 ripgrep 找出几个最相关的片段连原文行号一起塞给 LLM,远比向量召回精确。 整套思路就是:ripgrep 找文件,LLM 理解整合,提示词约定红线。装机 5 分钟,本地跑,几百份素材秒级返回,答案带文件路径+行号,可点开核对。 #AI工具 #大模型 #用户体验设计 #AI人工智能