罗罗编程学习记录
本页内容 展开查看

10.2.1.4 结构化输出与函数调用约束

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.2 Prompt 工程 / 10.2.1 提示设计与结构化输出

10.2.1.4-001 为什么自由文本不可靠,需要结构化输出?

一句话结论

自由文本格式松散、字段位置与写法不固定,程序难以稳定解析;结构化输出把答案约束成固定字段、类型与枚举,让下游可直接消费,减少正则兜底与格式纠错成本。

概念解释

  • 问题:解释、换行、字段名漂移导致解析失败。
  • 目标:可解析、可校验、字段确定。
  • 适用:抽取、分类、意图识别、工具参数生成。

原理流程

  1. 定义需要的输出字段与类型。
  2. 用 schema 或函数调用约束模型输出。
  3. 解析后进入业务流程。

代码 / 图示

自由文本: "退货的话找售后, 订单是 A123"  ← 解析靠猜
结构化: {"intent": "退货", "order_id": "A123"} ← 直接消费

常见误区

  • 误区:提示"请输出 JSON"就足够稳定;正解:仍需 schema 约束、字段定义与解析校验。
  • 误区:结构化只限于 JSON;正解:也可以是固定字段的函数调用参数、枚举分类等形式。

追问

  • Q:哪些任务必须结构化? A:进入程序流程、写库、调工具的输出必须结构化;纯对话回复可自由文本。
  • Q:结构化后还要不要解释? A:解释可放单独字段,不与结构化数据混在同一文本块。

10.2.1.4-002 什么是 JSON Schema,声明哪些约束?

一句话结论

JSON Schema 用声明式方式描述输出对象的字段名、类型、是否必填、枚举取值、嵌套结构与默认约束;模型按 schema 生成可解析对象,下游据此校验合法性。

概念解释

  • 类型:string、number、boolean、array、object。
  • 约束:必填、枚举、范围、嵌套、数组元素类型。
  • 用途:约束生成 + 解析后校验同源。

原理流程

  1. 列出业务需要的字段与取值范围。
  2. 编写 schema:类型、必填、枚举、嵌套。
  3. 生成结果按 schema 校验。

代码 / 示例

{
  "type": "object",
  "required": ["intent", "city"],
  "properties": {
    "intent": {"type": "string", "enum": ["咨询", "退货", "投诉"]},
    "city": {"type": ["string", "null"]},
    "tags": {"type": "array", "items": {"type": "string"}}
  }
}

常见误区

  • 误区:schema 只写给人看;正解:它同时是生成约束与校验依据,字段定义前后一致才有效。
  • 误区:把所有字段都设必填;正解:缺失合法的字段设为可选或允许 null,避免模型硬造值。

追问

  • Q:schema 字段能自由命名吗? A:按业务接口规范命名,下游代码与数据库字段对齐。
  • Q:支持哪些约束格式? A:不同接口支持的 schema 子集不同,以供应商文档为准;不支持的约束在代码侧补校验。

10.2.1.4-003 API 的 response_format / structured output 机制是什么?

一句话结论

多数托管 API 提供结构化输出模式:指定 JSON 模式或传入 schema,接口在解码侧约束输出为合法 JSON/匹配 schema;具体能力(是否传完整 schema、是否强制枚举)以接口文档为准。

概念解释

  • 模式:纯 JSON 模式、指定 schema 模式。
  • 约束位置:解码受限或后处理保证,实现因厂商而异。
  • 局限:格式合法不等于语义正确。

原理流程

  1. 请求中开启结构化输出并附 schema。
  2. 模型按约束生成。
  3. 返回可解析对象,代码侧再校验字段。

代码 / 图示

请求: response_format = json / 附 schema
返回: 合法 JSON 对象
代码: schema 校验 → 业务校验

常见误区

  • 误区:开启结构化模式就不用解析校验;正解:仍可能缺字段、枚举越界、语义错误,必须二次校验。
  • 误区:所有 API 都支持完整 schema 约束;正解:支持范围不同,能力要按接口核实,不支持时退化为提示约束 + 代码校验。

追问

  • Q:结构化模式失败时怎么办? A:检查 schema 是否在支持子集内,不支持的约束改代码校验;仍失败走提示强化与重试。
  • Q:JSON 模式会附带解释文本吗? A:部分实现允许解释字段同返,需在 schema 中定义;不允许时输出应纯 JSON。

10.2.1.4-004 函数调用(tool/function calling)与结构化输出是什么关系?

一句话结论

函数调用是结构化输出的一种特殊形式:模型选择要调用的工具并生成符合参数 schema 的参数对象;结构化输出面向返回业务字段,函数调用面向选择动作并填参数,二者都受 schema 约束、都需执行前校验。

概念解释

  • 结构化输出:结果对象直接给业务消费。
  • 函数调用:工具名 + 参数对象,供代码执行。
  • 共同点:字段、类型、枚举约束与校验。

原理流程

  1. 定义可用工具及其参数 schema。
  2. 模型决定是否调用、调用哪个工具。
  3. 参数校验通过后由代码执行。

代码 / 图示

结构化输出: {业务字段...}
函数调用:   {tool_name, arguments: {参数...}}

常见误区

  • 误区:模型自己执行工具;正解:模型只产出调用意图与参数,执行权在代码侧。
  • 误区:函数调用参数不用校验;正解:参数类型、必填、范围必须校验后再发往系统。

追问

  • Q:一个响应能调多个工具吗? A:取决于接口支持,并行或连续调用各有格式,按文档实现;参数仍按调用分别校验。
  • Q:不该调用工具时模型怎么表达? A:返回不调用或对应"无动作"字段,由代码判断。

10.2.1.4-005 枚举、必填、嵌套对象如何定义?

一句话结论

枚举限定可选值清单,必填字段列入 required,嵌套对象用 object 类型描述子结构,数组明确元素类型;定义要与业务取值口径一致,越界值在校验层拦截。

概念解释

  • 枚举:固定候选集合,防止自造类别。
  • 必填:缺失即校验失败。
  • 嵌套/数组:逐层定义结构。

原理流程

  1. 梳理字段取值来源(固定枚举还是自由文本)。
  2. 标注必填与可选。
  3. 嵌套与数组逐层约束。

代码 / 示例

{
  "type": "object",
  "required": ["category"],
  "properties": {
    "category": {"type": "string", "enum": ["A", "B", "C"]},
    "contact": {
      "type": "object",
      "properties": {"phone": {"type": "string"}}
    },
    "items": {"type": "array", "items": {"type": "string"}}
  }
}

常见误区

  • 误区:枚举值写进提示但不进 schema;正解:枚举应在约束与校验中同时体现。
  • 误区:嵌套结构只描述一层;正解:数组元素、子对象字段都要定义,否则下游解析无依据。

追问

  • Q:字段允许空值怎么定义? A:类型包含 null 或标记可选,并在业务规则中说明缺失语义。
  • Q:枚举扩展怎么维护? A:随业务目录更新 schema 与提示清单,避免模型用过时枚举。

10.2.1.4-006 schema 过严导致模型不输出怎么办?

一句话结论

约束过严(必填过多、枚举过窄、嵌套过深、要求矛盾)会让模型无法填出合法对象;应放宽可选字段、区分必填与缺失合法场景,并在评测集上观察不输出/重试率,必要时降级提示约束。

概念解释

  • 过严表现:拒绝输出、反复重试、字段编造。
  • 成因:条件不满足必填、候选不足、结构冲突。
  • 调整:按业务真实允许范围松绑。

原理流程

  1. 统计输出失败原因。
  2. 区分 schema 不合理与模型能力不足。
  3. 修正字段必填/枚举/层级后回归。

代码 / 图示

失败 → 检查: 必填是否合法? 枚举是否覆盖? 结构是否矛盾?
修正: 可选化 / 补枚举 / 简化嵌套

常见误区

  • 误区:不输出是模型不听话;正解:先检查 schema 是否给出了可满足的合法路径。
  • 误区:越严格越安全;正解:无法合法输出的约束等于没有输出,业务链路直接失败。

追问

  • Q:放宽后质量下降怎么办? A:用校验层补回规则约束,而不是把所有要求压进生成阶段。
  • Q:复杂嵌套必须保留怎么办? A:拆分多次输出或分字段生成,降低单次结构复杂度。

10.2.1.4-007 结构化输出仍可能违反哪些约束?

一句话结论

即使 JSON 语法合法,仍可能出现:必填缺失、类型错误、枚举越界、多余字段、嵌套层级错、数值范围越界、语义与输入不符;语法解析通过只是第一道关,字段与业务校验必须跟上。

概念解释

  • 结构类:缺字段、类型错、多余键。
  • 取值类:枚举越界、数值超范围。
  • 语义类:字段值与输入事实不符。

原理流程

  1. 语法解析通过。
  2. schema 校验结构与取值。
  3. 业务规则校验语义正确性。

代码 / 图示

合法 JSON ≠ 合法业务对象
检查: 必填/类型/枚举/范围/多余字段/语义

常见误区

  • 误区:能 parse 就通过校验;正解:parse 只证明语法合法,字段约束与语义还需逐项检查。
  • 误区:多余字段无害;正解:多余键可能污染下游,应在 schema 中限定属性。

追问

  • Q:类型错误常见于什么? A:数字被写成字符串、数组写成单值、null 写成空字符串,校验时按类型逐一比对。
  • Q:语义错误怎么发现? A:对照输入文本与证据,检查字段值是否有依据。

10.2.1.4-008 字段类型错误、空值、额外字段怎么处理?

一句话结论

解析后按 schema 做类型归一与校验:类型不符尝试合规转换或判失败,空值按约定表示(null/缺省),额外字段剔除或判违规;处理规则在代码侧明确,不依赖模型自觉。

概念解释

  • 归一:字符串数字等可转换场景统一口径。
  • 空值:null、空串、缺字段语义区分清楚。
  • 额外字段:按 schema 严格模式拒绝或忽略。

原理流程

  1. 解析 JSON 对象。
  2. 逐字段校验类型与取值。
  3. 不合规进入重试或错误处理。

代码 / 示例

字段 phone: 期望 string|null
  空串 "" → 归一为 null 或判失败(按约定)
多余字段 → 严格模式报错 / 宽松模式剔除

常见误区

  • 误区:空字符串和 null 等价;正解:业务语义可能不同(未提供 vs 提供空值),需明确口径。
  • 误区:额外字段留着以后用;正解:未定义字段进入下游可能造成混淆,应在入口拦截。

追问

  • Q:类型转换谁来做? A:代码侧做有限合规转换,无法可靠转换的判失败并重试,不让脏数据进业务流程。
  • Q:空值约定写在哪? A:schema 说明与提示示例中统一表达,避免模型各写一种。

10.2.1.4-009 抽取任务的 schema 代码示例是什么样?

一句话结论

抽取 schema 围绕目标实体字段、类型、枚举与缺失表示组织;示例在提示中给出输入到 JSON 的对照,校验层按同一 schema 检查字段完整性与取值合法。

概念解释

  • 字段:实体属性、类别、编号。
  • 缺失:null 表示无法抽取。
  • 来源:可附引用片段编号。

原理流程

  1. 确定抽取目标字段清单。
  2. 定义类型、枚举、缺失口径。
  3. 示例 + schema 约束生成,代码校验。

代码 / 示例

{
  "type": "object",
  "required": ["intent"],
  "properties": {
    "intent": {"type": "string", "enum": ["咨询", "退货", "投诉", "其他"]},
    "product": {"type": ["string", "null"]},
    "order_id": {"type": ["string", "null"]},
    "evidence": {"type": "array", "items": {"type": "string"}}
  }
}

常见误区

  • 误区:抽取字段越多越好;正解:只抽业务需要的字段,多余字段增加出错面。
  • 误区:抽不到就留空串;正解:用 null 明确表示缺失,便于下游区分。

追问

  • Q:evidence 字段放什么? A:支撑抽取结论的原文片段或编号,便于回溯核对。
  • Q:多实体怎么表示? A:用数组对象,每个元素含完整字段结构,schema 定义数组元素类型。

10.2.1.4-010 函数调用参数 schema 怎么写?

一句话结论

工具参数 schema 描述参数名、类型、是否必填、枚举与嵌套对象,并附参数用途说明;模型据此填参,代码在执行前按同一 schema 校验,参数错误不发往外部系统。

概念解释

  • 工具定义:名称、用途、参数 schema。
  • 参数约束:必填、类型、范围、枚举。
  • 执行边界:校验通过才调用。

原理流程

  1. 登记工具与用途说明。
  2. 编写参数 schema 与描述。
  3. 模型选工具填参,代码校验后执行。

代码 / 示例

{
  "name": "search_order",
  "description": "按订单号查询订单状态",
  "parameters": {
    "type": "object",
    "required": ["order_id"],
    "properties": {
      "order_id": {"type": "string", "description": "订单编号"},
      "status_filter": {"type": "string", "enum": ["全部", "进行中", "已完成"]}
    }
  }
}

常见误区

  • 误区:参数描述可有可无;正解:清晰的参数用途与示例取值帮助模型填对参数。
  • 误区:工具返回结果由模型自己解释就够;正解:执行前参数必须校验,执行后结果回传核对。

追问

  • Q:参数里的自由文本怎么约束? A:能枚举就枚举,必须自由文本时限制长度与字符范围,代码侧再清洗。
  • Q:必填参数缺失怎么办? A:判调用失败,回传错误让模型补全或换工具,不执行残缺调用。

10.2.1.4-011 多工具选择时模型如何选?

一句话结论

工具选择依赖工具描述、参数 schema 与当前意图;描述清晰、职责不重叠才能减少误选。评测集应覆盖相近工具、无关问题与不该调用的场景,检查误选率与合理拒选。

概念解释

  • 选择依据:工具用途说明与参数匹配度。
  • 风险:相近工具混淆、该不调用时硬调用。
  • 校验:工具名在允许清单内。

原理流程

  1. 工具清单职责划分清晰。
  2. 模型按意图选择工具并填参。
  3. 代码核对工具权限与参数后执行。

代码 / 图示

查询类工具 vs 操作类工具 职责分开
测试: 相近工具区分 / 无关问题拒选 / 参数正确

常见误区

  • 误区:工具越多能力越强;正解:职责重叠的工具增加误选,应合并或明确边界。
  • 误区:模型选了工具就一定该执行;正解:代码层还要校验该动作是否有权限、是否符合规则。

追问

  • Q:相近工具怎么降低误选? A:描述写清适用场景与排除场景,示例区分两类输入。
  • Q:模型选错工具怎么回收? A:把错误结果或提示回传让其重选,连续失败转人工或规则兜底。

10.2.1.4-012 强制 JSON 模式与自然语言解释如何共存?

一句话结论

需要解释与结构化数据时,把解释作为 schema 中的独立字段(如 explanation),而不是在 JSON 外夹杂自由文本;这样既保留说明又保证整体可解析,解释字段同样受长度与内容约束。

概念解释

  • 分字段:结论字段 + 解释字段。
  • 边界:JSON 外不允许出现附加段落。
  • 校验:解释字段存在性与长度。

原理流程

  1. schema 中定义解释字段。
  2. 模型把说明写入该字段。
  3. 解析整体对象后分别取用。

代码 / 示例

{
  "category": "退货",
  "reason": "用户提到要退回商品",
  "explanation": "依据订单状态与用户表述判断"
}

常见误区

  • 误区:先一段解释再贴 JSON;正解:混杂文本极易解析失败,解释必须进字段。
  • 误区:解释字段可以自由长篇;正解:同样设长度约束,避免挤占输出预算。

追问

  • Q:什么场景需要解释字段? A:需要人工复核依据、向用户说明判断理由时;纯程序消费可以不要。
  • Q:模型在 JSON 外加 markdown 代码块怎么办? A:解析层剥离围栏,仍校验内部对象,格式问题计入失败率。

10.2.1.4-013 嵌套深的 schema 有什么注意事项?

一句话结论

层级越深生成越容易出错、截断与缺字段风险越高;应尽量扁平化,必须保留层级时控制深度、明确每层结构,并在示例中展示完整嵌套,校验逐层检查。

概念解释

  • 风险:深层对象缺字段、数组层级错、中途截断。
  • 简化:能用扁平字段就不嵌套。
  • 校验:递归检查子结构。

原理流程

  1. 评估层级是否必要。
  2. 能扁平则合并字段。
  3. 保留层级时示例与校验同步覆盖。

代码 / 图示

深: {a: {b: {c: {d: ...}}}}
优先: 扁平化命名, 减少嵌套层数

常见误区

  • 误区:schema 层级对应数据库表结构就行;正解:生成阶段的易用性与解析稳定性要单独考虑。
  • 误区:深层缺字段模型会自己补;正解:缺失与编造都可能发生,必须逐层校验。

追问

  • Q:一次输出不完深层结构怎么办? A:拆分为多次调用或分字段生成,避免长嵌套被截断。
  • Q:数组对象嵌套怎么校验? A:遍历数组元素逐个校验子字段,不只检查数组存在。

10.2.1.4-014 结构化输出与 few-shot 示例如何配合?

一句话结论

示例直接展示目标 schema 的完整实例(含字段、枚举、空值表示),与 schema 定义一致;示例帮助模型理解字段口径与边界,schema 提供机器可校验的约束,二者配合而非互相替代。

概念解释

  • 示例:直观展示字段写法与缺失口径。
  • schema:形式约束与校验依据。
  • 一致:示例不出现 schema 外字段。

原理流程

  1. 先定 schema。
  2. 按 schema 写合规示例。
  3. 生成后按 schema 校验。

代码 / 示例

示例输入 → 示例 JSON(字段/枚举/null 写法)
schema 约束同一份字段定义

常见误区

  • 误区:示例字段与 schema 不一致;正解:示例是 schema 的样例,口径必须统一。
  • 误区:有示例就不用写 schema 约束;正解:示例覆盖不了所有校验规则,机器约束仍需要。

追问

  • Q:示例要展示空值吗? A:要,缺失字段的合法表示通过示例教给模型,避免自造写法。
  • Q:示例能引用真实业务数据吗? A:脱敏后使用,与示例隐私要求一致。

10.2.1.4-015 模型不支持 schema 约束时的降级方案是什么?

一句话结论

不支持完整 schema 时:提示中写明字段清单、类型、枚举与示例,解析层做强校验与有限归一,失败带错误反馈重试;仍不稳定则拆分任务或改用更适配的模型/微调路线。

概念解释

  • 降级组合:提示约束 + 代码校验 + 反馈重试。
  • 兜底:规则模板、人工处理。
  • 评估:反复失败说明模型能力或结构不匹配。

原理流程

  1. 核对接口能力边界。
  2. 提示补字段与枚举说明。
  3. 代码严格校验,重试修正。

代码 / 图示

无 schema 约束: 提示字段清单 + 示例 → 解析校验 → 错误反馈重试
仍失败: 拆分输出 / 换模型 / 规则兜底

常见误区

  • 误区:不支持 schema 就只能放弃结构化;正解:提示 + 校验 + 重试可覆盖不少场景,只是稳定性弱于原生约束。
  • 误区:降级方案不用评估成本;正解:重试率与失败率要监控,反复重试拉高成本。

追问

  • Q:怎么判断该换模型? A:提示与校验优化后格式失败率仍高、业务不可接受时,评估结构化能力更强的模型。
  • Q:解析失败能自动修复吗? A:有限修复(去围栏、补括号)可做,语义字段错误不能靠猜补。

10.2.1.4-016 日期、金额、枚举值怎么格式化约束?

一句话结论

日期与金额规定统一格式(日期格式、币种与精度),枚举给固定清单;模型按格式输出,代码侧解析为标准类型并校验范围,禁止模型自由发挥格式与单位。

概念解释

  • 日期:固定年月日/时间格式与时区口径。
  • 金额:币种、小数位、数值类型。
  • 枚举:固定候选,不新增类别。

原理流程

  1. 在 schema/提示中定格式与枚举。
  2. 模型按格式输出字符串或数值。
  3. 代码解析校验格式与范围。

代码 / 示例

{
  "amount": {"type": "number", "description": "金额, 单位元, 两位小数"},
  "date": {"type": "string", "pattern": "YYYY-MM-DD"},
  "channel": {"type": "string", "enum": ["线上", "门店", "电话"]}
}

常见误区

  • 误区:模型会自动统一日期格式;正解:格式口径必须显式规定并解析校验。
  • 误区:金额写成字符串更安全;正解:按业务需要定型,单位与精度必须明确,避免多币种混写。

追问

  • Q:范围校验放哪? A:代码侧(金额上下限、日期合理性),生成阶段只保证格式,业务边界由程序把关。
  • Q:枚举新增项怎么上线? A:先更新清单与 schema,再允许模型使用,避免线上出现未定义类别。

10.2.1.4-017 schema 版本演进与兼容怎么做?

一句话结论

schema 变更随接口版本管理:新增字段可选、不随意改字段名与类型,废弃字段标记过渡期;旧提示、示例与校验逻辑同步更新,灰度期兼容新旧结构,避免版本错配导致解析失败。

概念解释

  • 兼容原则:加字段可选,改类型/名称属破坏性变更。
  • 配套:提示、示例、代码校验、模型调用版本一致。
  • 过渡:新旧结构并存期做适配。

原理流程

  1. 评估变更兼容性。
  2. 同步更新 schema、提示、示例与校验。
  3. 灰度发布并观察解析失败率。

代码 / 图示

演进: 新增可选字段(兼容) / 重命名改类型(破坏性, 走版本)

常见误区

  • 误区:直接改字段名不影响旧链路;正解:旧提示与旧代码仍按旧结构解析,会批量失败。
  • 误区:schema 改了示例自动跟着对;正解:示例与提示必须手动同步复核。

追问

  • Q:线上怎么发现版本错配? A:监控解析失败率与字段缺失告警,灰度期对照新旧结构。
  • Q:废弃字段怎么下线? A:先标记过渡期、停止生成引用,再从 schema 与代码移除。

10.2.1.4-018 结构化输出常见失败模式清单是什么?

一句话结论

常见失败:JSON 截断、代码围栏包裹、字段名漂移、类型错误、枚举越界、多余字段、空值写法不一、参数缺失、工具误选、语义无依据;逐项在解析校验层归类统计,定位是提示、schema 还是模型能力问题。

概念解释

  • 结构失败:截断、围栏、字段名。
  • 取值失败:类型、枚举、范围。
  • 语义失败:错配、无依据、误选工具。

原理流程

  1. 解析阶段归类错误类型。
  2. 按类型分布定位根因。
  3. 对应修正提示、schema 或换模型。

代码 / 图示

截断 → 输出预算/结构简化
围栏/字段名 → 提示与解析归一
枚举/类型 → schema 与校验
语义错配 → 证据与工具选择

常见误区

  • 误区:所有失败都归因模型不听话;正解:先区分结构、取值、语义三层,根因可能在提示或 schema。
  • 误区:失败只记录总数;正解:分类统计才能指导改进,笼统错误率无法定位问题。

追问

  • Q:失败率多少需要介入? A:按业务容忍度设阈值,关键链路格式合规率应接近全量,出现上升趋势即排查。
  • Q:重试能覆盖哪些失败? A:格式与部分取值错误可反馈重试;语义错误需补证据或改流程,重试无效。