我在本地部署Dify、LangGraph搭建代码Agent时,一直被同一个痛点折磨: 新开对话,AI直接忘掉项目架构、历史代码、之前踩过的bug。每次迭代,我都要反复复述一遍项目背景。 我翻阅数十份工程资料,梳理完整AI记忆演进路线,聚焦本地部署场景,讲清楚每种技术能解决什么实际问题。 【1】LSTM(1997) 首创门控选择性遗忘思路。 落地参考:现已不作为大模型主干,但核心思路延续至今。 【2】GRU(2014) LSTM轻量化版本,降低算力消耗。 落地参考:适配小型时序任务,不适合长代码工程。 【3】Transformer(2017)|模型原生上下文记忆 当下绝大多数大模型基础架构。 优点:单次对话内可以关联代码、需求 局限:受上下文窗口上限约束;序列越长,算力、显存开销暴涨 【4】Mamba/SSM(2023)|新一代主干架构 状态空间机制,超长序列推理成本可控。 优点:本地加载海量代码、长篇工程文档,避开Transformer平方级算力开销 局限:纯SSM复杂推理能力偏弱;主流方案为SSM+Attention混合架构 重点区分: LSTM/GRU/Transformer/Mamba = 模型内置主干记忆 RAG、Agent分层记忆 = 外部外挂记忆,无需更换底座模型 【5】RAG向量检索 外部静态知识库(也就是Dify知识库方案) 优点:静态文档、代码资料快速检索 局限:被动检索,不具备时序能力,无法主动沉淀迭代经验、历史错误 【6】Agent分层长期记忆(前沿工程方案) 三层结构:工作记忆→短期会话记忆→长期工程快照 跨会话持续开发;自动留存代码修改记录、历史缺陷;新建对话自动召回完整项目背景 落地选型清单 ▪仅Transformer原生上下文 适合:简短一次性任务 不适合长期大型代码工程 ▪搭配RAG向量库 适合:静态资料检索 不适合持续迭代开发 ▪Mamba/混合架构底座 适合:需要载入超长代码库、显存资源紧张 ▪搭建Agent分层长期记忆 适合:游戏项目持续开发、代码增量迭代、要求AI记住完整工程历史 关键避坑 RAG ≠ Agent长期记忆。 RAG仅仅是资料库;分层记忆支持时序归纳、主动召回、经验复盘。 常规升级路径: Dify上下文+RAG快速搭建原型 → 遇到跨会话AI失忆问题 → 尝试长上下文底座 / 搭建Agent分层长期记忆 你们本地部署代码Agent时,有没有被AI遗忘历史需求困扰?#AIAgent #本地大模型 #Dify #Mamba #AI长期记忆 #AI技术干货 #AI进化生活howto
AI记忆30年演进|Agent如何解决AI“失忆”
刘耀文的大沙雕
论文
降低AIGC
知网
作者:AI记忆30年演进|Agent如何解决AI“失忆”
上一篇
← 上一篇:没有上一篇
下一篇
下一篇:没有下一篇 →