2温涛-腾讯云 Data Platform 构建 Agent Memory Lake让智能体拥有无限记忆.pdf

1、腾讯云腾讯云 Data Platform Data Platform 构建构建 Agent Memory LakeAgent Memory Lake：让智能体拥有无限记忆让智能体拥有无限记忆演讲嘉宾演讲嘉宾：温涛：温涛从训练到推理：从训练到推理：AI Agent AI Agent 正在改变算力与数据范式正在改变算力与数据范式AI 推理将成为未来 AI 基础设施支出主体，而智能体部署带来的海量交互数据、实时访问与复杂治理需求，正在推动数据存储与管理成为 AI 成败的关键因素Gartner 预测：至 2026 年约 40%的企业应用将集成任务型 AI Agent；到 2026 年 AI 推理将成为

2、主要的 IaaS 支出占比（约 55%），推理支出预计从 2025 的$9.2B 增至 2026 的$20.6B+Agent 推动数据范式的变化传统 AI（以训练+单次推理为主）数据主要集中在训练阶段使用推理阶段以模型参数为核心数据访问呈“阶段性、批量化、无状态”特征数据更多是“训练燃料”，而不是运行时资产AI Agent（以持续运行/自主决策为主）数据贯穿 Agent 的完整业务闭环Agent 在运行过程中持续生成新数据数据访问呈“持续性、链路化、强状态”特征Agent 本身，正在成为一个“持续运行的数据生产者+数据消费者”传统 AI 的数据服务于模型训练，AI Agent 的数据直接服务于

3、业务运行与决策本身Agent 推理效率的真正挑战：推理效率的真正挑战：Memory 记忆体记忆体成为关键因素成为关键因素在 AI Agent 场景下，推理效率不再只由模型算力决定，Memory 的访问效率、容量与管理能力，正在成为新的系统级瓶颈Memory latency 直接放大为推理 latency传统 Cache/DB/单一存储都难以同时满足的需求多轮对话历史决策链中间状态反思结果推理上下文变长、变多、变“活”Memory 访问从“偶发”变成“主路径”每一轮 reasoning 都要：读历史写状态查经验Memory 访问进入 推理主链路Memory 规模快速膨胀，但访问要求更苛刻Agen

4、t 运行中产生：轨迹数据决策日志工具调用记录反思与反馈需求严苛：既要 低时延访问又要 长期保存还要 可分析、可复用Context 不再是 prompt，而是“运行状态”Agent 的推理效率，取决于“能不能在正确的时间，把正确的记忆送到模型面前”基于基于 Memory Lake 构建分层记忆体系，支撑构建分层记忆体系，支撑 Agent 推理、规划与持续进化推理、规划与持续进化围绕 Agent 的推理、规划、执行与反思等核心业务环节，构建与之匹配的分层记忆体系，支撑 Agent 高效完成任务，并通过 Memory Lake 让经验持续沉淀，实现持续学习与进化。Agent 需要的不是一个“数据库”

5、，而是一套 围绕业务流程构建的分层记忆体系Reason 推理Critique 反思User 用户Planning&Routing 规划Tool Use 执行记忆湖(Memory Lake)100100101010101001010 0010010100101001010010010010 101001010101010101000100100101010101001010001.0010100101001010010 010010101001010101010.101000100 10010101010100101001001 01001010010100100.100101010010101

6、0101010100000100.1010101010010100010010100101001010010010.0101010010101010101010001.001001010101010010100010010100.1010010100100100101010010101010.101010001001001010101010010100010010100.101001010010010010101001010101010101000100100.101010101001010001001010010100101001001001010100.101010101010100010