如何构建具备知识反思能力的自学习 RAG 系统

📌 One-Sentence Summary

本教程将展示如何构建一个自学习 RAG 系统，该系统能在文档摄入过程中综合文档间的关联，创建可检索的反思产物，从而使知识库随着时间的推移变得更加智能。

📝 Summary

本教程解决了标准 RAG 系统的一个根本性局限：它们无法从摄入的文档中学习。作者提出了一个名为“知识反思层”的实用解决方案，该层会在每次文档摄入后自动触发。系统会找出向量索引中语义相关的文档，利用 LLM 综合生成一个包含三句话的洞察（新内容是什么、如何关联、还有哪些空白），然后将该反思作为提升权重的搜索产物存储起来。教程提供了完整、可部署的 TypeScript 代码，基于 Cloudflare Workers 实现，涵盖了模式更新、反思引擎、将反思合并为摘要、与摄入处理器的集成以及搜索结果权重提升。作者认为，这种方法能将静态知识库转变为主动构建交叉引用理解的系统，对于需要综合多个文档来回答的概念性问题尤其有价值。

💡 Main Points

1. 标准 RAG 系统是无状态的，无法从摄入的文档中学习。 每个查询都被孤立处理，没有对先前发现的记忆或跨文档的综合，限制了系统回答需要连接多个来源信息的概念性问题的能力。
2. 知识反思层在文档摄入过程中综合新文档与现有文档之间的关联。 每添加一个文档后，系统会找出语义相关的文档，使用 LLM 生成结构化的三句话反思（新内容是什么、如何关联、哪些问题仍未解答），并将其作为具有排名权重提升的可检索产物存储。
3. 反思会被合并为摘要，以管理更高抽象层级上的噪音。 每产生三个反思后，系统会将其综合成一个压缩摘要，捕捉跨领域的模式或矛盾，并为宽泛的概念性查询提供额外的排名权重提升。
4. 反思层将知识库从静态库转变为学习系统。 在规模较大时（200 个以上文档），系统能够回答单个文档中不包含的概念性问题，通过在原始文档块之外呈现综合后的反思和摘要来实现。

💬 Key Quotes

• 系统的知识量和第一天完全一样。它就像一个从未建立过目录卡片、从未交叉引用过自己书架、也从未注意到其中三本书说法相互矛盾的图书馆。
• 随着你添加更多文档，知识库会变得更智能——而不仅仅是更大。
• 不是更智能的检索——而是更智能的索引。
• 标准 RAG 只是检索。而这个系统会学习。

📊 Article Meta

Read Full Article