10.1.2.3 幻觉成因与缓解
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.1 LLM 基础 / 10.1.2 上下文与输出控制
10.1.2.3-001 什么是幻觉,工程上怎么界定?
一句话结论
幻觉是模型输出看似合理但与事实、证据或输入不符的内容;工程上按「可核验性」界定:有外部证据/规则可对照的事实性错误算幻觉,开放创作中的设定不属于事实幻觉,区分场景后再定防护级别。
概念解释
- 事实性幻觉:编造人物、数字、日期、来源、接口行为。
- 一致性幻觉:前后矛盾、曲解输入。
- 界定前提:任务是否要求基于证据与事实。
原理流程
- 明确任务对事实准确性的要求等级。
- 准备可对照的证据或规则。
- 输出逐条核对是否有据、是否一致。
代码 / 图示
输出断言 → 有无证据/规则支撑?
有 → 核对一致性
无 → 标记为待核验/幻觉风险
常见误区
- 误区:所有不确定输出都是幻觉;正解:合理推断与无依据编造要区分,开放性创作允许设定,事实型任务才严格核验。
- 误区:幻觉等于模型撒谎;正解:它是概率生成的副产物,模型并不"知道"自己在编造。
追问
- Q:怎么给业务定义幻觉口径? A:按任务列出必须有据的断言类型(数字、条款、来源、操作步骤),其余归入表达质量问题。
- Q:口头表达不严谨算幻觉吗? A:先看是否构成可核验的错误断言;模糊措辞属于表达问题,不等于事实编造。
10.1.2.3-002 幻觉主要成因有哪些?
一句话结论
主要成因包括:训练知识的时效与覆盖缺口、按概率补全缺失信息、上下文证据不足却被要求作答、对齐偏好导致倾向给完整答案、采样放大低概率内容、以及复杂任务推理链条出错。
概念解释
- 知识缺口:训练截止后事件、冷门领域、私有知识。
- 生成机制:预测下一个通顺 token,不等于检索事实。
- 激励偏差:被训练成乐于给出确定回答,而非承认不知道。
原理流程
- 输入进入模型,上下文缺乏对应证据。
- 模型按语言概率补全看似合理的内容。
- 低概率候选被采样或推理错误放大。
- 输出未经外部核对直接呈现。
代码 / 图示
证据不足 → 概率补全 → 通顺但无依据 → 未核验 → 到达用户
常见误区
- 误区:幻觉只来自模型参数量小;正解:大模型同样会编造,能力提升不消除概率生成的本质倾向。
- 误区:幻觉都是训练数据错误;正解:数据缺失、上下文不足、输出激励与采样共同作用。
追问
- Q:私有企业知识为什么最容易幻觉? A:模型训练不含内部资料,没有证据时只能按通用模式编造,必须靠 RAG 或工具提供内部事实。
- Q:幻觉能从根上消除吗? A:不能完全消除,工程目标是分层降低风险、可核验、可拦截,而不是宣称零幻觉。
10.1.2.3-003 模型按概率生成为什么会编事实?
一句话结论
模型优化的是"下一个 token 是否符合语言分布",而不是"陈述是否可被事实验证";当事实缺失时,通顺、常见、像答案的片段概率更高,于是被组合成看似可信的编造内容。
概念解释
- 训练目标:序列概率拟合,不是事实数据库检索。
- 表达流畅与事实正确是两个目标。
- 模型没有内置"我不知道就停下"的强制机制。
原理流程
- 面对未覆盖的事实问题。
- 生成符合表达习惯的候选片段。
- 概率高的通顺片段被选中。
- 缺少外部核验,编造内容流出。
代码 / 图示
目标: 生成通顺、连贯的文本
≠ 目标: 每条断言可追溯到事实来源
常见误区
- 误区:模型回答得越流畅越说明正确;正解:流畅度只反映语言分布,不反映事实真伪。
- 误区:模型内部存了一个可查的事实库;正解:知识以参数化分布存在,不能保证逐条准确调取。
追问
- Q:为什么它编造得很自信? A:对齐训练鼓励完整作答,语气确定性与事实正确性脱钩;语气不能作为可信依据。
- Q:工程上怎么对抗这个倾向? A:把事实来源外置(检索/工具),并在提示与流程中要求有据作答、无据则声明。
10.1.2.3-004 训练数据的时效与覆盖缺口如何导致幻觉?
一句话结论
模型知识受训练语料时间范围与领域覆盖限制,截止后的事件、冷门细节、内部资料不在覆盖内;面对这些问题时只能凭模式推测,产生过期或编造内容。
概念解释
- 时效缺口:版本、事件、价格、人员等随时间变化。
- 覆盖缺口:小众术语、私有系统、地方细节。
- 表现:用过时信息作答或拼接近似内容。
原理流程
- 判断问题是否落在知识覆盖范围内。
- 范围外内容需要外部数据源补充。
- 未补充时模型只能按通用模式生成。
代码 / 图示
问题 → 知识覆盖?
是 → 可凭参数知识回答(仍需核验)
否 → 必须检索/工具, 否则高风险编造
常见误区
- 误区:大模型知道最新版本号与价格;正解:这类易变信息必须查外部来源,不能依赖参数记忆。
- 误区:覆盖缺口只影响冷门问题;正解:热门话题的近期进展同样可能过期。
追问
- Q:怎么识别过期风险? A:对版本号、日期、价格、人员、赛事等易变字段强制走外部检索或工具校验。
- Q:私有知识怎么补? A:接入内部知识库检索或数据库工具,让答案基于内部证据生成。
10.1.2.3-005 上下文不足时模型为什么倾向补全而不是拒答?
一句话结论
对齐训练使模型倾向满足用户、给出完整答复;在证据不足时它仍会补全细节而不是声明"不知道",除非提示与流程显式要求无据可依时拒答或转人工。
概念解释
- 倾向:完整回答优先于承认不确定。
- 拒答能力:需要显式规则与证据门控配合。
- 风险:缺证据时补全的内容最不可控。
原理流程
- 提示中定义无依据时的行为(声明不足/转人工)。
- 输出前检查是否有证据支撑断言。
- 证据不足走拒答或追问路径。
代码 / 示例
提示规则: "若资料不足以回答, 明确说明缺少什么,
不要推测; 可列出需要补充的信息。"
常见误区
- 误区:模型自然会知道自己不知道;正解:自我认知不可靠,必须用提示规则与外部证据门控约束。
- 误区:要求拒答会让模型什么都拒;正解:配合证据充分的样本校准区分度,避免过度保守。
追问
- Q:怎么让拒答更合理? A:在评测集中加入"证据不足"样本,对比模型是声明不知道还是编造;调整提示与阈值。
- Q:拒答后接什么? A:转检索补充、收集更多信息或转人工,而不是停在一句拒绝。
10.1.2.3-006 幻觉有哪些常见类型?
一句话结论
常见类型可分为事实性编造(不存在的人/文档/数字)、来源性错误(引用不存在的出处或张冠李戴)、一致性矛盾(前后冲突、曲解输入)、推理型错误(步骤或计算错)与格式/实体越界(自造枚举、接口)。
概念解释
- 事实型:断言本身错误或不存在。
- 来源型:引用与出处对不上。
- 一致性:同一份回答内部冲突。
- 推理型:多步推导中某步出错。
原理流程
- 按类型给错误分类标注。
- 每类对应不同缓解与校验手段。
- 在评测集中沉淀各类失败样本。
代码 / 图示
事实编造 / 来源错配 / 前后矛盾 / 推理错误 / 实体越界
常见误区
- 误区:幻觉只有"编事实"一种;正解:引用错误、自造枚举、前后矛盾都属于需要拦截的输出缺陷。
- 误区:所有错误都归为模型能力问题;正解:部分来自检索错配、prompt 歧义或工具返回错误,需先归因。
追问
- Q:来源性错误怎么识别? A:核对引用编号与实际片段是否对应,检查出处是否真实存在。
- Q:推理型幻觉怎么缓解? A:分步展开、工具校验计算与检索事实,关键步骤留可核对痕迹。
10.1.2.3-007 降低温度能否消除幻觉?
一句话结论
低温能减少随机发散与离题,降低采样放大错误的概率,但不能消除事实性幻觉——核心事实错误来自知识缺口与证据不足,低温下模型仍可能自信地输出错误断言。
概念解释
- 温度作用:控制候选多样性,不补事实。
- 幻觉根源:证据与知识问题。
- 定位:低温是辅助手段,不是事实校验。
原理流程
- 低温降低随机错误候选概率。
- 事实错误仍需外部证据与校验拦截。
- 组合使用采样控制与证据约束。
代码 / 图示
低温 → 减少发散, 不补缺失事实
事实正确性 → 依赖 RAG/工具/校验
常见误区
- 误区:温度调到最低就不会编;正解:最高概率路径本身也可能是错误事实。
- 误区:高温才会有幻觉;正解:低温模型同样编造,只是措辞更确定。
追问
- Q:什么任务低温有帮助? A:抽取、分类等靠近主流答案的任务;事实问答仍需证据支撑。
- Q:温度与幻觉指标怎么观察? A:评测集上对比不同温度的事实错误率,而不是只看流畅度。
10.1.2.3-008 RAG 如何用检索证据约束输出?
一句话结论
RAG 把与问题相关的文档片段检索进上下文,要求模型只基于给定证据作答,无证据时声明不足;证据外置让回答可回溯,把"参数记忆"换成"可核对材料",是抑制事实幻觉的主链路。
概念解释
- 证据注入:相关片段作为上下文材料。
- 作答约束:结论依据证据,引用来源。
- 缺口处理:证据不足时不推测。
原理流程
- 查询检索相关片段。
- 片段连同编号进入 prompt。
- 模型基于片段作答并标注引用。
- 核对断言能否在证据中找到对应。
代码 / 示例
"仅依据以下资料回答; 资料未覆盖的问题,
明确说明无法回答, 不要补充资料外信息。"
[片段1] ... [片段2] ...
常见误区
- 误区:接入 RAG 就没有幻觉了;正解:检索错配、片段矛盾、模型曲解证据仍会出错,RAG 降低而非消除风险。
- 误区:模型会自动只看证据;正解:必须在提示中明确约束,并校验引用与断言对应关系。
追问
- Q:检索不到相关证据怎么办? A:走拒答或扩大检索范围,不要让模型凭通用知识补答。
- Q:证据之间矛盾怎么处理? A:呈现分歧与各自来源,交业务判断,模型不应强行选一边。
10.1.2.3-009 要求引用出处为什么能压幻觉?
一句话结论
引用要求把每条断言绑定到具体来源片段,使编造的出处容易被核对暴露;引用同时倒逼模型区分"证据内容"与"自身推断",工程上再做引用与断言的对应校验。
概念解释
- 可回溯:结论能指回具体片段编号。
- 可校验:人工或程序核对出处是否支持断言。
- 边界:引用格式正确不等于内容被证据支持。
原理流程
- 提示要求结论附片段编号。
- 输出解析引用映射。
- 核对每个断言是否有对应证据支撑。
代码 / 示例
回答: "退货需在 7 天内申请[片段1]"
校验: 片段1 是否确实包含该条款?
常见误区
- 误区:有引用编号就可信;正解:模型可能编造编号或引用不相关片段,必须核对对应关系。
- 误区:引用是给用户看的装饰;正解:引用是核验抓手,缺失引用的事实断言应标为高风险。
追问
- Q:怎么自动校验引用? A:抽取断言与引用片段做相关性核对,或人工抽检;规则型断言可直接比对片段文本。
- Q:模型引错来源常见吗? A:常见于片段编号相近或证据混淆,校验环节需要覆盖这类错配。
10.1.2.3-010 工具校验适合哪类幻觉?
一句话结论
涉及精确计算、数据库查询、状态查询、接口调用、日期换算等可由确定性程序核验的内容,应交给工具计算并把结果回传模型;工具校验适合"有确定答案可查可算"的环节,不替代语义理解。
概念解释
- 可核验型:数值、库存、订单、权限、日期、配置。
- 工具返回:确定性结果作为证据。
- 分工:模型理解意图,程序执行确定性操作。
原理流程
- 识别需要精确结果的环节。
- 调用对应工具查询/计算。
- 工具结果回传,模型据此组织答案。
代码 / 图示
模型: 理解问题 → 发起工具调用
工具: 查询/计算 → 确定性结果
模型: 基于结果作答, 不自行推算数值
常见误区
- 误区:让模型心算复杂数字更省事;正解:算术与查表应交工具,模型计算易错且不可核验。
- 误区:工具结果一定被正确使用;正解:仍需核对模型转述是否与工具返回一致。
追问
- Q:哪些操作必须工具化? A:金额、库存、库存状态、权限判定、外部系统写入等确定性与强一致环节。
- Q:工具调用失败怎么回答? A:如实说明暂时无法获取,不编造工具返回内容。
10.1.2.3-011 提示层如何要求模型承认不知道?
一句话结论
在系统提示中明确作答边界:资料不足、证据缺失或问题超出范围时,说明缺什么、不推测、不编造,并给出下一步(补充信息/转人工);配合"不确定就标注"的输出约定。
概念解释
- 显式规则:模型默认行为之外补充拒答条件。
- 输出格式:可带"置信度/待确认"标记。
- 校准:避免过度拒答,用样本平衡。
原理流程
- 定义可回答与不可回答的条件。
- 写入系统提示与输出 schema。
- 评测集检验拒答合理性。
代码 / 示例
"当依据不足时:
1. 说明无法确认的点;
2. 列出需要补充的信息;
3. 不要虚构名称、数字或来源。"
常见误区
- 误区:写一句"不知道就说不知道"就够;正解:要给出拒答时的具体输出形式与后续动作,模型才好执行。
- 误区:要求承认不知道会降低回答率;正解:在证据充分样本上校准,避免把可答问题也拒掉。
追问
- Q:怎么评测拒答质量? A:构造证据充分与不足两组样本,看不足组是否拒答、充分组是否正常回答,统计两类错误。
- Q:置信度标记可信吗? A:模型自评置信度校准有限,关键事实仍需外部证据,不能只凭自评放行。
10.1.2.3-012 后置校验与事实核查怎么做?
一句话结论
输出先过语法/结构校验,再对关键断言做证据比对或工具复核;校验不通过触发重试、修正或拦截,形成"生成 → 解析 → 核验 → 处置"的后置防线,与提示约束、证据检索分层配合。
概念解释
- 第一层:格式、字段、枚举合法性。
- 第二层:事实断言与证据/工具结果比对。
- 处置:重试、降级、标记待核、转人工。
原理流程
- 解析输出结构。
- 规则校验字段与类型。
- 关键断言回溯证据或调用核验工具。
- 按结果放行/重试/拦截。
代码 / 图示
生成 → 结构校验 → 断言核验 → 放行 / 重试 / 标记 / 转人工
常见误区
- 误区:后置校验能代替提示与 RAG;正解:各层分工不同,后置只拦截已发生的错误,不能前置补足证据。
- 误区:所有断言都要人工核查;正解:按风险分级,关键事实与高影响输出优先核验。
追问
- Q:自动核查能做到什么程度? A:规则匹配、字段比对、引用核对可自动化;开放式事实判断仍需人工抽检。
- Q:校验失败重试几次? A:设次数上限与退避,反复失败走兜底,避免无限循环消耗成本。
10.1.2.3-013 自我一致性(self-consistency)思路是什么?
一句话结论
对同一问题采样多条推理路径,比较结论是否一致;多数一致或可相互印证的答案可信度更高,分歧大的样本标记待核;它是质量筛选手段,不提供外部事实依据。
概念解释
- 多次采样:不同推理路径得到候选结论。
- 聚合:投票/比对一致程度。
- 局限:一致不等于正确,可能共同错在同一假设上。
原理流程
- 同一输入生成多个候选答案。
- 比较结论与关键断言一致性。
- 高一致放行,低分歧复核或转人工。
代码 / 图示
问题 → 采样 N 条 → 结论比对
一致: 提高置信
分歧: 标记待核, 补充证据
常见误区
- 误区:多数投票结果就是事实;正解:多路可能共享同一错误前提,一致性只降低随机错误风险。
- 误区:自我一致性适合所有任务;正解:成本翻倍以上,用于高风险、多步推理场景,简单抽取不必使用。
追问
- Q:候选之间措辞不同怎么比对? A:先抽取关键结论字段再比对,不按字面相似度判断。
- Q:成本怎么控? A:只在高风险链路启用多次采样,常规链路单次生成加校验。
10.1.2.3-014 幻觉如何评测?
一句话结论
用标注样本集按类型统计事实错误率、引用正确率、前后矛盾率与拒答合理性;结合自动规则核查与人工抽检,按任务风险设定可接受阈值,版本变更后回归对比。
概念解释
- 样本:典型问题、边界问题、证据不足样本。
- 指标:事实错误率、引用命中率、一致性、拒答正确率。
- 方式:自动校验 + 人工抽检结合。
原理流程
- 标注黄金答案与可核验证据。
- 跑模型输出并分类错误类型。
- 统计指标,抽样人工复核。
- 设定阈值并跟踪趋势。
代码 / 示例
指标: 事实错误率 / 引用正确率 / 矛盾率 / 误拒率
样本: 充分证据 + 不足证据 + 易混淆领域
常见误区
- 误区:用主观感觉判断幻觉多少;正解:必须有标注样本与量化指标,否则版本对比无依据。
- 误区:只统计编造率;正解:过度拒答、引错来源同样要计入评测。
追问
- Q:人工抽检比例怎么定? A:按风险等级分层,高影响场景比例更高;自动规则覆盖可结构化核验的部分。
- Q:指标阈值怎么定? A:结合业务容忍度与历史基线,新版本不得显著劣化基线。
10.1.2.3-015 长文本中前后矛盾怎么发现?
一句话结论
长输出中提取关键断言逐条比对一致性(数字、状态、结论、实体),检查是否存在互相冲突的表述;可借助结构化要点提取后规则比对,人工复核高风险矛盾点。
概念解释
- 矛盾类型:结论冲突、数字不一致、状态前后相反。
- 发现方式:断言抽取 + 规则/语义比对。
- 场景:长摘要、多步方案、多段回复。
原理流程
- 从长文本抽取关键断言。
- 按实体/主题分组比对。
- 冲突点标记并回溯上下文核对。
代码 / 图示
长输出 → 断言抽取 → 分组比对
冲突: 同实体不同状态/数字 → 标记复核
常见误区
- 误区:通读一遍就能发现矛盾;正解:长文本跨段矛盾隐蔽,抽取后结构化比对更可靠。
- 误区:矛盾一定是幻觉;正解:也可能是输入信息本身冲突,需回溯原始材料。
追问
- Q:模型自相矛盾常见于什么情况? A:上下文过长、证据冲突、任务要求在多个约束间摇摆;先排查输入再归因模型。
- Q:发现矛盾后怎么处理? A:回到证据重新生成,或标记关键冲突交业务确认,不把矛盾版本直接交付。
10.1.2.3-016 角色扮演、虚构设定与事实幻觉如何区分?
一句话结论
在明确的虚构/创作设定下,模型按设定演绎不属于事实幻觉;但若任务要求真实事实,模型把虚构设定当事实陈述,或在角色扮演中编造现实信息,仍属风险输出;区分依据是任务约束与声明的场景边界。
概念解释
- 虚构创作:设定内自洽即可,不要求现实对应。
- 事实任务:必须基于真实证据。
- 混叠风险:角色设定溢出到事实回答。
原理流程
- 明确任务是创作还是事实问答。
- 创作场景标注虚构属性。
- 事实场景剥离角色演绎,按证据作答。
代码 / 图示
创作: 设定自洽 = 合格
事实: 虚构内容当真实陈述 = 幻觉风险
常见误区
- 误区:角色扮演下说什么都可以;正解:涉及现实事实、安全建议、专业决策时仍需事实约束。
- 误区:虚构内容不需要标注;正解:面向用户的创作输出应明确其虚构性质,避免被当真。
追问
- Q:角色客服里编造政策怎么办? A:角色只限定语气与身份,政策事实必须来自知识库/工具,角色设定不能成为编造依据。
- Q:创意文案引用真实品牌要注意什么? A:真实名称、数据、承诺仍需核对,不能为了情节编造。
10.1.2.3-017 领域术语、版本号、数字为什么最容易错?
一句话结论
精确术语、版本号、日期、金额、编号属于高细节断言,训练覆盖有限且易被近似片段替换;这类内容应强制来自检索/工具返回,输出时逐项回查,不依赖模型记忆。
概念解释
- 高细节:字符串高度精确,差一位即错。
- 近似风险:模型用常见版本号/近义术语替换。
- 防护:外置数据源 + 逐字段核对。
原理流程
- 识别输出中的术语、版本、数字、编号。
- 对照证据或工具返回逐项核验。
- 不一致则修正或标记待确认。
代码 / 图示
版本号/金额/编号 → 必须来自工具或证据
禁止: 凭记忆补全细节字符串
常见误区
- 误区:模型说的版本号格式看着合理就是对的;正解:精确字符串必须逐项比对,格式合理不代表内容正确。
- 误区:小数字误差无所谓;正解:金额、库存、权限阈值等场景一位之差就是业务错误。
追问
- Q:怎么让模型原样引用数字? A:提示要求照抄证据中的数值与单位,不做换算;换算交工具完成。
- Q:字段无法核验怎么办? A:标注"待确认"而不是给出精确值,风险高的转人工。
10.1.2.3-018 流式输出中发现错误能否中途纠正?
一句话结论
流式下错误片段可能已经推给前端,中途只能停止后续生成、标记本次结果不可用并重试;已发出的内容无法撤回,因此关键场景要在生成前约束、生成后整体校验,不能依赖边流边改。
概念解释
- 已推送:前端已渲染,无法收回。
- 可控制:停止后续 token、断开流、重新生成。
- 前置防线:提示约束、证据注入比事后纠错更有效。
原理流程
- 流过程中可做初步结构检查。
- 发现严重错误:停止生成,丢弃本次结果。
- 重试或走兜底,前端提示重新生成。
代码 / 图示
流式: 片段已到达前端 → 不可撤回
可做: 中止后续生成 → 标记失败 → 重试
常见误区
- 误区:可以边流边把错字改掉;正解:已推送内容改不回,只能中止重来。
- 误区:流式省去后置校验;正解:流结束后仍要整体校验完整性与事实。
追问
- Q:关键场景怎么降低中途出错影响? A:先在非流式模式生成并校验,通过后再推流;或只对低风险内容采用流式。
- Q:中止后前端展示什么? A:清除不完整回答,提示重新生成,避免用户看到半截错误内容。
10.1.2.3-019 哪些幻觉风险最高,必须加护栏?
一句话结论
高风险场景包括:医疗/法律/财务建议、对外承诺、涉及金额与权限的操作、引用真实来源、内部政策解释;这些场景错误代价大,必须证据约束、关键断言核验、人工复核或明确免责边界。
概念解释
- 高影响:错误建议直接造成决策、资金、合规后果。
- 护栏:证据强制、工具核验、输出拦截、人工复核。
- 分级:按业务后果分配防护强度。
原理流程
- 按后果对任务分级。
- 高风险链路配证据、校验与复核。
- 明确模型输出的建议性质与边界声明。
代码 / 图示
高风险: 专业建议 / 资金 / 权限 / 对外承诺 / 来源引用
护栏: 证据 + 工具 + 校验 + 人工 + 免责边界
常见误区
- 误区:所有场景用同一套宽松提示;正解:风险等级不同,高风险链路不能只靠模型自觉。
- 误区:加了免责声明就可以放行错误建议;正解:声明不能替代证据核验与流程护栏。
追问
- Q:高风险场景能否完全交给模型? A:关键决策必须有确定性规则或人工确认,模型只做辅助整理。
- Q:护栏放哪几层? A:输入证据、提示约束、生成参数、后置校验、人工复核,分层覆盖。
10.1.2.3-020 缓解措施的分层组合清单是什么?
一句话结论
按链条分层:前置(领域选型、提示边界、证据检索)、生成(低温、结构化约束、工具介入)、后置(结构校验、断言核验、引用核对)、流程(评测回归、人工抽检、降级转人工);每层各有手段,组合使用而不是单点依赖。
概念解释
- 前置层:选对模型、给足证据、写清边界。
- 生成层:采样与输出约束、确定性动作交工具。
- 后置层:解析核验、拦截重试。
- 流程层:评测、监控、人工兜底。
原理流程
- 风险分级,确定各层需要的措施。
- 落地证据、提示、工具、校验链路。
- 用评测集跟踪错误率趋势。
代码 / 图示
前置: 模型/提示/检索证据
生成: 采样/约束/工具调用
后置: 解析/核验/引用比对
流程: 评测/抽检/兜底转人工
常见误区
- 误区:某一个手段(RAG 或低温)就能解决幻觉;正解:幻觉是多因素结果,必须分层组合。
- 误区:护栏只在上线前做一次;正解:随模型版本、知识更新持续监控与回归。
追问
- Q:低成本场景怎么配? A:以提示约束 + 结构校验为主,高风险环节再加工具核验与人工;不为简单任务堆砌整套防线。
- Q:怎么判断措施是否有效? A:按错误类型看评测指标变化,新增护栏后观察对应错误率是否下降。