10.4.2.3 记忆分层与上下文管理
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.4 Agent 架构 / 10.4.2 协议与记忆
10.4.2.3-001 Agent 记忆分为哪几层?
一句话结论
通常分三层:工作记忆(当前任务的即时状态与本轮消息)、短期记忆(会话内历史与中间产物)、长期记忆(跨会话保留的用户偏好、事实与结论);各层容量、保留周期与召回方式不同,配合控制上下文规模。
概念解释
- 工作记忆:当前轮目标、计划、观察。
- 短期记忆:本次会话历史与产物。
- 长期记忆:跨会话持久信息。
原理流程
- 当前信息进入工作记忆。
- 会话内内容压缩后入短期记忆。
- 值得长期保留的事实写入长期记忆并按需召回。
代码 / 图示
长期记忆(跨会话) ← 检索召回
短期记忆(本会话历史/产物)
工作记忆(当前轮状态) → 进入模型上下文
常见误区
- 误区:所有信息都塞进上下文当记忆;正解:上下文窗口有限,分层存储与召回才可持续。
- 误区:长期记忆自动记住一切;正解:写入与召回需要策略,避免无关信息污染。
追问
- Q:工作记忆放哪里? A:结构化任务状态中,每轮读取更新,见 10.4.1.1。
- Q:三层边界固定吗? A:按任务调整命名与划分,但职责分离的思路一致。
10.4.2.3-002 什么是工作记忆,应保留哪些内容?
一句话结论
工作记忆是当前任务推进所需的即时状态:目标、约束、当前计划、最近观察、关键产物与未解决问题;它直接进入每轮模型上下文,应精简聚焦,过期中间细节移到短期或外部存储。
概念解释
- 当前状态:目标/计划/约束。
- 即时观察:最近工具结果。
- 待办:未解决问题与下一步。
原理流程
- 每轮更新工作状态结构。
- 组装上下文时优先放入。
- 不再相关的细节移出。
代码 / 图示
working = { goal, constraints, plan, last_observation, key_artifacts, open_questions }
常见误区
- 误区:工作记忆复制全部历史;正解:它只保留推进当前决策必需的信息。
- 误区:工作记忆只存文字摘要;正解:结构化字段比自然语言段落更可靠。
追问
- Q:工作记忆过大怎么办? A:已完成步骤压缩为要点,大产物外置引用。
- Q:关键结论丢失有什么表现? A:后续步骤重复询问已确认信息或偏离目标。
10.4.2.3-003 短期记忆如何管理会话历史?
一句话结论
短期记忆保存本次会话的消息序列、工具结果与中间产物;通过窗口截取、摘要压缩与结构化归纳控制规模;历史按时间与相关性保留,关键结论与产物登记,冗长过程可压缩后回取原始记录。
概念解释
- 会话序列:消息与工具往返。
- 压缩:摘要/要点归纳。
- 产物登记:中间结果引用。
原理流程
- 会话过程写入短期存储。
- 超预算时压缩早期内容。
- 上下文组装选取相关片段。
代码 / 图示
历史消息 + 工具结果 + 产物引用
早期 → 摘要; 近期 → 保留原文; 大产物 → 外部引用
常见误区
- 误区:消息历史无限累积进上下文;正解:多轮后窗口溢出,关键信息被挤出。
- 误区:压缩后不留原始记录;正解:摘要无法回溯时应保留原始消息外置可查。
追问
- Q:哪些历史不能压缩掉? A:用户明确要求、关键决策依据与已确认事实。
- Q:会话产物存哪? A:短期存储关联任务,长期保留的再转入长期记忆。
10.4.2.3-004 长期记忆应该写入哪些信息?
一句话结论
长期记忆保留跨会话有复用价值的信息:稳定偏好、长期事实、已确认结论、常用约定;不写入临时状态、一次性细节与敏感未授权数据;写入前判断复用价值与有效期,避免把会话碎片沉淀为噪声。
概念解释
- 复用价值:未来任务会用到。
- 有效期:稳定事实 vs 临时信息。
- 准入判断:写入前评估必要性。
原理流程
- 会话结束或节点判断信息价值。
- 归类为事实/偏好/结论并标注来源时效。
- 合格条目写入长期记忆。
代码 / 图示
可写: 用户偏好, 长期事实, 复用约定, 已确认结论
不写: 临时状态, 一次性细节, 未授权敏感数据
常见误区
- 误区:把每轮对话都存入长期记忆;正解:低价值条目造成召回噪声与隐私风险。
- 误区:写入不标时效;正解:过期事实会误导后续会话。
追问
- Q:偏好与事实如何区分? A:偏好指导表达方式与选择倾向,事实描述客观状态,分别存储。
- Q:不确定的信息写入吗? A:先标记待确认,不作为稳定长期结论。
10.4.2.3-005 上下文窗口不够时如何压缩?
一句话结论
策略:保留目标/约束/关键结论与近期消息,早期步骤压缩为要点,工具大结果外置只留引用,重复与无关内容剔除;压缩不丢关键数值与决策依据,必要时按引用回取原文;压缩策略在上下文组装前固定。
概念解释
- 保留优先级:目标 > 约束 > 结论 > 近期细节。
- 摘要归纳:早期历史压缩。
- 外置引用:大结果按需回取。
原理流程
- 统计上下文占用。
- 按优先级裁剪与压缩。
- 关键依据保留可回取引用。
代码 / 图示
保留: goal/constraints/结论/近期
压缩: 早期过程 → 要点
外置: 大结果 → 引用 ID 回取
常见误区
- 误区:直接截断最早消息;正解:截断可能丢掉用户原始需求与关键约束。
- 误区:摘要后不保留原文;正解:后续核对需要可回取的原始记录。
追问
- Q:压缩由谁完成? A:可由模型归纳或规则提取要点,关键事实字段应结构化保留。
- Q:压缩后矛盾怎么处理? A:以最新确认结论为准,旧说法标记失效。
10.4.2.3-006 什么是检索式记忆(RAG for memory)?
一句话结论
长期记忆条目录入向量或结构化索引,新会话按问题相关性召回相关条目进入上下文;类似 RAG 但面向个人/任务记忆;解决记忆条目多、上下文放不下的问题,召回需过滤时效、权限与相关性。
概念解释
- 索引:条目向量/标签存储。
- 召回:按相关性取若干条。
- 过滤:时效、权限、主题范围。
原理流程
- 记忆条目写入索引并标注元数据。
- 新任务生成检索查询。
- 召回过滤后放入上下文。
代码 / 图示
长期记忆库 → 查询向量/标签 → 召回 top-k → 时效/权限过滤 → 上下文
常见误区
- 误区:召回越多越好;正解:无关记忆条目会干扰当前决策,需控制数量与相关性。
- 误区:记忆检索不做时效过滤;正解:过期条目可能与当前事实冲突。
追问
- Q:记忆召回与文档 RAG 区别? A:对象是用户/任务历史条目,过滤维度偏偏好、时效与归属。
- Q:召回条目如何呈现? A:标注来源与写入时间,供判断是否仍适用。
10.4.2.3-007 记忆条目之间出现冲突如何处理?
一句话结论
按时间、来源等级与显式确认程度取舍:新确认事实覆盖旧条目,冲突双方标注状态;无法判断时保留候选并向用户澄清,不静默采纳;长期记忆记录冲突解决过程,避免重复矛盾。
概念解释
- 取舍依据:时效、来源、确认程度。
- 状态标注:有效/过期/冲突待确认。
- 澄清升级:无法判定交用户。
原理流程
- 比对冲突条目元数据。
- 按规则更新或标记冲突。
- unresolved 条目列入澄清。
代码 / 图示
新确认 > 旧推断; 权威来源 > 一般材料
冲突 → 标记待确认 → 用户澄清 → 更新状态
常见误区
- 误区:先写入的记忆优先;正解:时效与确认程度优先,旧条目应被新结论覆盖。
- 误区:冲突条目自动合并成模糊表述;正解:矛盾未解决前应显式标注。
追问
- Q:偏好变化怎么更新? A:新偏好覆盖旧偏好,旧偏好标记失效时间。
- Q:冲突记录有什么用? A:复盘记忆写入质量,避免同类重复沉淀。
10.4.2.3-008 记忆为什么要带过期与更新机制?
一句话结论
事实、偏好与约束会随时间变化,记忆条目标注有效期或状态,过期条目不参与召回或标记待复核;定期清理失效记忆,防止旧事实误导当前任务;用户要求更正或删除时同步更新对应条目。
概念解释
- 时效标注:有效期/写入时间。
- 状态流转:有效/待复核/过期。
- 清理:失效条目下线。
原理流程
- 写入时标注时效与来源。
- 召回时检查状态。
- 定期复核清理过期条目。
代码 / 图示
entry: { fact, written_at, valid_until?, source, status }
召回: status=有效 且 在有效期内
常见误区
- 误区:长期记忆永久有效;正解:业务事实与个人偏好都可能变更。
- 误区:过期条目直接物理删除;正解:先标记状态,需要追溯时保留历史版本。
追问
- Q:哪些信息不易过期? A:稳定偏好与基础约定仍需定期复核,不假设永久不变。
- Q:用户更正信息后? A:更新对应条目并关联更正记录。
10.4.2.3-009 记忆写入时如何做隐私控制?
一句话结论
最小化写入个人信息,敏感字段脱敏或不沉淀;按授权范围决定哪些记忆可长期保留;提供记忆查看、更正与删除入口;写入与召回都做权限校验,记忆库访问受审计,不把敏感对话原文长期留存。
概念解释
- 最小化:只存必要信息。
- 授权范围:可保留与可召回边界。
- 用户权利:查看/更正/删除。
原理流程
- 写入前判断敏感性与必要性。
- 脱敏后再入长期记忆。
- 召回按权限过滤,删除可执行。
代码 / 图示
写入: 敏感? 脱敏/拒绝; 归属授权? 是 → 存储
召回: 权限过滤; 用户可删除条目
常见误区
- 误区:为连续性把聊天原文全量存档;正解:敏感原文长期留存有合规风险。
- 误区:记忆库不区分归属;正解:跨用户记忆必须隔离,召回按身份过滤。
追问
- Q:用户要求删除记忆怎么做? A:按条目与关联索引彻底删除,不残留引用副本。
- Q:哪些字段必须脱敏? A:身份标识、联系方式、凭证与业务敏感数据,按合规要求处理。
10.4.2.3-010 短期记忆与长期记忆如何衔接?
一句话结论
会话结束或关键节点,把短期记忆中具备长期价值的条目提炼转入长期记忆;长期记忆在新会话开始时按相关性召回补充到工作记忆;转入时去重、归类并标注来源,避免短期碎片直接进长期库。
概念解释
- 提炼转入:价值判断与归纳。
- 召回补充:新会话按需加载。
- 去重归类:与既有条目合并。
原理流程
- 会话中沉淀短期产物。
- 节点评估价值并提炼。
- 新会话召回相关条目进入上下文。
代码 / 图示
短期 → 提炼/去重/标时效 → 长期库
新会话 → 检索召回 → 工作记忆
常见误区
- 误区:短期记忆结束即全部转长期;正解:只有复用价值高的条目才沉淀。
- 误区:长期召回条目不加判断直接复述;正解:需核对时效与当前任务相关性。
追问
- Q:转入时怎么归纳? A:提炼为事实/偏好/结论条目,保留来源与时间。
- Q:既有相似条目? A:合并或更新,避免重复记忆竞争召回。
10.4.2.3-011 记忆召回如何过滤噪声?
一句话结论
召回时按主题相关性、时效、归属与状态过滤;控制召回条数,排序按相关度与时效;低置信或冲突条目不强行加入上下文;噪声记忆会诱导模型偏离当前任务,过滤优先级高于多召回。
概念解释
- 多维过滤:主题/时效/归属/状态。
- 数量控制:top-k 适度。
- 排序:相关度 + 时效权重。
原理流程
- 检索候选条目。
- 过滤无效与越权条目。
- 排序取有限数量入上下文。
代码 / 图示
候选 → 主题相关? 有效? 归属? → 排序 → top-k 入上下文
常见误区
- 误区:召回条目越多参考越全;正解:无关历史条目会污染当前判断。
- 误区:只按向量相似度排序;正解:时效、状态与归属同样是过滤维度。
追问
- Q:召回条数怎么定? A:按上下文预算与任务类型设定,留出当前任务空间。
- Q:相关但过期条目怎么办? A:标记失效提示,不作为当前事实依据。
10.4.2.3-012 多轮对话中如何避免重复确认已知信息?
一句话结论
已确认的事实与约定登记在短期/长期记忆,后续轮次直接引用;上下文组装时加载相关记忆条目;新输入与已知信息冲突时才复核,不反复询问用户已说明的内容。
概念解释
- 已知登记:事实与约定条目。
- 引用复用:后续轮次调用。
- 冲突复核:仅在矛盾时确认。
原理流程
- 用户确认后写入记忆。
- 后续轮次召回已知条目。
- 只在冲突或缺失时澄清。
代码 / 图示
用户确认 → 记忆条目 → 后续引用; 新输入矛盾 → 复核确认
常见误区
- 误区:每轮都重问背景信息;正解:记忆未被利用会增加用户负担。
- 误区:把未确认的猜测当已知;正解:只有明确确认的内容才登记为事实。
追问
- Q:记忆条目缺失导致重复询问? A:检查召回过滤与写入是否成功。
- Q:用户纠正旧信息? A:更新记忆条目,后续按新信息执行。
10.4.2.3-013 任务上下文与个人记忆应如何隔离?
一句话结论
任务状态属于当前会话,个人偏好/长期事实属于跨会话记忆;两类记忆分库存放与召回,任务产物不混入个人长期记忆;召回时按任务主题与个人归属区分,避免其他任务的内部信息进入当前上下文。
概念解释
- 任务记忆:目标、产物、进度。
- 个人记忆:偏好、长期事实。
- 分库分域:存储与召回隔离。
原理流程
- 按类别写入不同记忆域。
- 召回按域过滤。
- 任务结束清理或归档任务记忆。
代码 / 图示
task_scope: 本会话目标/产物/进度
user_scope: 偏好/长期事实
常见误区
- 误区:所有记忆放一个大库不区分;正解:跨任务信息泄露与污染风险增加。
- 误区:任务产物自动成为个人记忆;正解:是否长期保留需单独评估准入。
追问
- Q:个人偏好如何影响任务? A:在表达与选择倾向层面召回,不覆盖任务事实与权限。
- Q:任务归档后还能召回吗? A:按归档策略保留检索权限,到期清理。
10.4.2.3-014 记忆条目应包含哪些元数据?
一句话结论
条目包含内容、类型(事实/偏好/结论)、来源、写入时间、时效状态、归属(用户/任务)与引用标识;元数据支撑过滤、时效判断、权限校验与回溯核对,纯文本记忆无法做可靠召回与管理。
概念解释
- 类型:归类用途。
- 来源时效:依据与有效期。
- 归属引用:权限与回溯。
原理流程
- 写入时补齐元数据字段。
- 召回按元数据过滤排序。
- 变更与删除关联条目记录。
代码 / 示例
{
"content": "偏好简洁列表回答",
"type": "preference",
"source": "用户确认",
"written_at": "2026-11-18",
"status": "active",
"scope": "user",
"refs": []
}
常见误区
- 误区:只存内容不存来源;正解:无法判断依据可靠性与时效。
- 误区:归属字段缺失;正解:跨用户/跨任务隔离失去依据。
追问
- Q:来源等级怎么记? A:用户确认、系统数据、模型推断分级标注。
- Q:条目关联引用? A:指向原始会话或文档片段,便于核对。
10.4.2.3-015 上下文组装的顺序与优先级是什么?
一句话结论
通常顺序:系统约束与身份 → 当前目标与工作状态 → 召回的长期/相关记忆 → 近期会话历史 → 工具观察与产物;目标与约束优先级最高,低相关历史靠后;组装时检查窗口预算,超预算先压缩低优先级部分。
概念解释
- 优先级:约束/目标 > 记忆 > 历史 > 观察。
- 预算检查:组装前估算占用。
- 裁剪顺序:低优先级先压缩。
原理流程
- 收集各层上下文材料。
- 按优先级排序组装。
- 超预算压缩低优先级材料。
代码 / 图示
系统约束 → 目标/状态 → 召回记忆 → 近期历史 → 工具观察
常见误区
- 误区:把最早历史放在最前;正解:目标与约束应在靠前位置稳定生效。
- 误区:不做预算检查直接组装;正解:超限导致关键部分被截断。
追问
- Q:工具观察放哪? A:作为最近上下文供当前决策,大结果压缩带引用。
- Q:记忆与历史冲突? A:以当前会话新确认信息为准,旧记忆标记复核。
10.4.2.3-016 模型上下文丢失与记忆失效如何排查?
一句话结论
按链路排查:信息是否写入、元数据是否有效、召回是否被过滤、上下文组装是否压缩丢失;对比期望记忆条目与实际进入上下文的内容;区分未写入、未召回、被压缩三类原因,分别对应修复。
概念解释
- 写入排查:条目是否落库。
- 召回排查:过滤与排序。
- 组装排查:压缩与截断。
原理流程
- 检查记忆库条目状态。
- 复现召回查询看候选。
- 检查组装阶段上下文内容。
代码 / 图示
条目存在? 否→写入问题; 存在未召回→过滤/索引; 召回未进上下文→组装压缩
常见误区
- 误区:信息没用到就认为模型忘了;正解:先分层定位写入、召回还是组装环节。
- 误区:只看最终回答;正解:导出上下文组装内容逐段核对。
追问
- Q:索引更新延迟? A:检查向量/标签索引是否刷新,新条目可能尚未可召回。
- Q:压缩误删关键信息? A:调整保留优先级与压缩规则,回归验证。
10.4.2.3-017 长期记忆是否应该用向量数据库存储?
一句话结论
条目多、需要语义召回时可用向量索引;结构化事实与偏好更适合标签/字段存储,可两者结合;选型看条目规模、召回方式与运维成本,不强制所有记忆走向量库;存储实现细节见 10.4.2.4。
概念解释
- 向量召回:语义相似匹配。
- 结构化存储:标签/字段过滤。
- 组合:向量 + 字段元数据。
原理流程
- 按记忆类型选择存储方式。
- 结构化元数据配合过滤。
- 条目规模增长后评估索引方案。
代码 / 图示
语义相似 → 向量; 类型/归属/时效 → 结构化字段
常见误区
- 误区:记忆条目少也上向量库;正解:少量条目用结构化存储更简单可控。
- 误区:向量召回替代字段过滤;正解:权限、时效、归属仍需元数据过滤。
追问
- Q:偏好条目用什么存? A:结构化字段便于按类型与状态管理。
- Q:条目格式怎么统一? A:内容 + 元数据结构,存储方式不改变条目契约。
10.4.2.3-018 记忆对模型行为的影响如何评估?
一句话结论
对比有无相关记忆召回时的回答一致性、是否正确引用已知偏好/事实、是否被过期或无关记忆误导;指标包括记忆引用正确率、冲突遵循率与噪声干扰率;在标注集上回归记忆策略变更。
概念解释
- 一致遵循:正确使用记忆。
- 误导率:被过期/无关条目影响。
- 回归对比:策略变更前后。
原理流程
- 准备含记忆条目的任务样本。
- 对比召回开关注结果。
- 统计引用正确率与误导率。
代码 / 图示
记忆引用正确率 · 冲突遵循率 · 噪声误导率
常见误区
- 误区:记忆越多行为越连贯;正解:噪声记忆导致偏离,需评估干扰率。
- 误区:只看主观感受;正解:在样本集上量化记忆使用正确性。
追问
- Q:记忆误导怎么发现? A:检查答案是否引用了过期或无关条目,归因为召回还是策略问题。
- Q:策略变更怎么验证? A:固定样本集对比前后指标,防止压缩/过滤规则劣化。
10.4.2.3-019 多用户环境下记忆隔离有哪些要点?
一句话结论
记忆条目按用户/会话归属隔离,写入与召回都带身份过滤;索引按归属分区或加权限字段;跨用户召回默认禁止;管理员访问记忆需审计;删除操作按归属彻底执行,不共享索引副本。
概念解释
- 归属隔离:用户/任务维度。
- 召回过滤:身份强制校验。
- 访问审计:管理操作留痕。
原理流程
- 条目写入绑定归属标识。
- 召回强制归属过滤。
- 访问与删除按权限审计。
代码 / 图示
entry.owner = user_id
召回: owner 匹配; 跨用户访问拒绝并审计
常见误区
- 误区:共用索引靠查询条件区分;正解:缺少强制归属过滤容易越权召回。
- 误区:缓存副本不归属隔离;正解:中间缓存与索引副本同样需要权限控制。
追问
- Q:团队共享记忆怎么办? A:按授权范围建共享域,与个人记忆分开管理。
- Q:记忆导出/迁移? A:按归属授权操作,导出内容受脱敏与审计约束。
10.4.2.3-020 记忆分层与上下文管理落地清单是什么?
一句话结论
清单:三层记忆划分、工作记忆结构、短期历史压缩与原始留存、长期写入准入与时效、元数据字段、召回过滤(主题/时效/归属/状态)、冲突处理与用户更正、隐私脱敏与删除、任务与个人记忆隔离、上下文组装优先级、记忆质量评估与回归。
概念解释
- 分层结构:工作/短期/长期。
- 读写策略:准入、召回、过滤、冲突。
- 隔离合规:归属、脱敏、删除、评估。
原理流程
- 定义记忆层级与条目契约。
- 实现写入、压缩、召回与隔离。
- 评估记忆正确性并持续清理失效条目。
代码 / 图示
□ 三层划分 □ 工作状态 □ 短期压缩留存 □ 长期准入时效
□ 元数据 □ 召回过滤 □ 冲突更正 □ 隐私删除
□ 任务/个人隔离 □ 组装优先级 □ 质量评估回归
常见误区
- 误区:记忆工程等同于接一个向量库;正解:写入准入、时效、冲突、隔离与召回过滤才是主体。
- 误区:上线后不复核记忆质量;正解:过期与噪声条目需要定期清理与指标监控。
追问
- Q:记忆数据如何持久化存储? A:见 10.4.2.4 会话状态与长期记忆存储。
- Q:任务中断后如何恢复? A:依赖会话状态持久化,见下一主题。