和AI聊天聊着聊着它就失忆了?上下文直接不认识上一句,体验感直接崩盘🥲 LangChain的Memory记忆体系其实分三层,今天用生活化比喻给你讲明白每个原理! 💬短期记忆:就是你手里的便签纸 就像我们开会随手记要点的便签,短期记忆会把当前这一轮对话的上下文直接存在内存里。原理是:每次你发新消息,它都会把历史聊天内容拼到Prompt里一起送给大模型,让大模型直接看得到上下文。它解决的就是"你说了上句,AI忘了下句"的问题,不过它容量有限,对话长了就装不下,会把旧的内容挤掉。 📔会话记忆:就是你的聊天笔记本 会话记忆就像你专门给每个对话开的笔记本,每一轮问答都会按顺序记在本子上。原理是:LangChain会给每个会话分配单独ID,把所有历史消息按时间存在缓存或者数据库里,每次调用的时候根据会话ID把整个历史调出来,还可以自动截断太长的历史,适配大模型的上下文窗口。它解决的问题是:区分开不同用户、不同会话的聊天内容,不会串记。 🗄️长期记忆:就是你的移动硬盘 长期记忆就像你存重要资料的移动硬盘,会把用户的核心信息、关键知识永久存下来。原理是:LangChain会把有用的信息提取出来,做Embedding编码之后存在向量数据库里,下次对话需要用到的时候直接检索召回,不用把所有历史都塞进Prompt。它解决了大模型上下文窗口不够用的问题,就算聊了几百轮,也能随时调出你之前说过的重要信息。 实际用的时候三层是这么协作的:用户发消息→先从短期拿到当前上下文→再从会话记忆取出本轮历史→需要旧信息就去长期记忆里召回→把拼好的上下文一起送给大模型回复→回复完再把新内容更新回三层记忆里,完成一次记忆更新。 其实AI的记忆和我们人脑逻辑一模一样:临时记在脑子里,重要的写笔记本里,关键知识存进自己知识库! 你做AI应用的时候被记忆问题坑过吗?评论区聊聊踩过的坑👇 #LangChain #大模型开发 #AI记忆 #LLM #人工智能开发 #AI产品 #LangChain教程 #AI原理
大模型怎么记住对话?LangChain记忆讲透
刘耀文的大沙雕
论文
降低AIGC
知网
作者:大模型怎么记住对话?LangChain记忆讲透
上一篇
← 上一篇:没有上一篇
下一篇
下一篇:没有下一篇 →