罗罗编程学习记录
本页内容 展开查看

10.4.1.2 Function Calling 与 Tool Use

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.4 Agent 架构 / 10.4.1 Agent 循环与工具调用

10.4.1.2-001 什么是 Function Calling,它与自由文本工具调用有何区别?

一句话结论

Function Calling 由模型按预定义工具 schema 输出结构化调用(工具名 + 参数 JSON),由应用层执行;相比让模型自由生成命令或文本解析,结构化调用参数可校验、可审计、可安全路由,错误面更小。

概念解释

  • 预定义 schema:工具名、参数类型与约束。
  • 结构化输出:机器可解析的调用对象。
  • 应用执行:模型不直接执行代码。

原理流程

  1. 把工具清单与 schema 提供给模型。
  2. 模型决定调用并产出结构化参数。
  3. 应用校验后执行工具,结果回传模型。

代码 / 图示

模型 → { tool_name: "...", arguments: {...} }
应用 → 校验参数 → 执行 → 结果回传

常见误区

  • 误区:模型能直接运行工具代码;正解:模型只生成调用意图,执行权在应用层。
  • 误区:Function Calling 能保证参数正确;正解:结构化只是可解析,参数仍需应用校验。

追问

  • Q:为什么不让模型生成 SQL/命令直接执行? A:命令注入与越权风险高,结构化工具白名单更可控。
  • Q:调用格式以什么为准? A:各供应商接口字段名与结构以官方文档为准。

10.4.1.2-002 一次 Function Calling 的完整链路是什么?

一句话结论

链路:系统提供工具定义 → 模型选择工具并填参数 → 应用解析校验 → 执行工具 → 结构化结果回传 → 模型基于结果继续决策或作答;每一步输入输出都可记录审计。

概念解释

  • 工具定义:名称、描述、参数 schema。
  • 执行层:应用侧函数/接口。
  • 结果回传:tool 角色消息带回。

原理流程

  1. 请求携带工具清单。
  2. 返回调用意图(或直接回答)。
  3. 执行后把结果作为工具消息追加,再次请求模型。

代码 / 图示

消息 + tools → 模型 → tool_call
应用执行 → tool 结果消息 → 再次请求 → 最终回答

常见误区

  • 误区:工具结果不传回去就结束;正解:结果必须回传,模型才能基于观察作答。
  • 误区:调用一次就必然结束;正解:结果不足时模型会继续发起后续工具调用。

追问

  • Q:模型不调工具直接回答怎么办? A:判断是信息已充分还是选错工具,回看工具描述与上下文。
  • Q:结果回传格式? A:按接口约定的 tool 消息结构返回,内容以官方文档为准。

10.4.1.2-003 工具 schema 中 description 起什么作用?

一句话结论

description 向模型说明工具用途、适用场景、输入含义与边界,是模型选对工具、填对参数的主要依据;描述不清会导致选错工具或参数错配,需要写清「什么时候用、什么时候不用」。

概念解释

  • 用途说明:工具解决什么问题。
  • 适用边界:不适用场景。
  • 参数语义:每个字段含义与格式。

原理流程

  1. 为每个工具写用途与边界。
  2. 参数描述类型、取值与示例。
  3. 错题复盘时修订描述。

代码 / 示例

{
  "name": "get_order",
  "description": "按订单号查询订单状态与金额;仅用于已知订单号的查询,不用于搜索用户",
  "parameters": {
    "type": "object",
    "properties": {
      "order_id": {"type": "string", "description": "订单号,格式如 A20260101001"}
    },
    "required": ["order_id"]
  }
}

常见误区

  • 误区:description 写成函数名注释;正解:模型看不到实现代码,描述是唯一选择依据。
  • 误区:只写用途不写边界;正解:缺少「不适用场景」容易被误选。

追问

  • Q:多个工具功能相近怎么办? A:在描述中区分输入、适用对象与返回内容。
  • Q:描述需要示例吗? A:关键参数给示例格式,减少类型与格式错误。

10.4.1.2-004 模型同时返回多个工具调用怎么办?

一句话结论

支持并行调用时,应用可并行执行互不依赖的调用,结果分别回传;存在依赖关系的调用必须串行,前一个结果决定后一个参数;并行前检查调用间是否有数据依赖,避免拿不到结果就构造参数。

概念解释

  • 并行:无依赖调用同时执行。
  • 串行:结果决定后续参数。
  • 依赖检查:数据流向判断。

原理流程

  1. 解析批量调用列表。
  2. 判断依赖关系分组。
  3. 无依赖并行,有依赖按序执行。

代码 / 图示

调用 A, B 无依赖 → 并行执行
调用 C 依赖 A 结果 → A 完成后构造 C

常见误区

  • 误区:批量调用一律并行;正解:参数依赖前序结果时并行会缺输入。
  • 误区:并行结果顺序丢失;正解:按调用 ID 对应回传,防止结果错配。

追问

  • Q:并行调用如何回传? A:每个调用带唯一 ID,结果按 ID 对应,具体结构以接口文档为准。
  • Q:部分调用失败怎么处理? A:失败项错误回传,成功项结果保留,由模型决定继续还是修正。

10.4.1.2-005 工具参数非法时如何让模型修正?

一句话结论

应用先做 schema 与业务校验,把错误原因、期望格式与原始错误信息回传为工具结果,让模型重新生成调用;不要替模型猜测补全参数,也不要因一次校验失败直接终止任务。

概念解释

  • 校验层:类型、必填、枚举、格式。
  • 错误回传:结构化反馈修正方向。
  • 重试修正:模型重新生成参数。

原理流程

  1. 校验调用参数。
  2. 非法则返回错误说明与约束。
  3. 模型修正后再次提交校验。

代码 / 示例

{
  "error": "参数 order_id 格式不正确:应为字母开头加 11 位数字",
  "expected": {"order_id": "string,示例 A20260101001"}
}

常见误区

  • 误区:应用偷偷补全缺失参数;正解:猜测补全会导致查错对象,应让模型依据上下文修正。
  • 误区:错误信息只写「参数错误」;正解:缺少原因与期望格式,模型无法有效修正。

追问

  • Q:修正次数有限制吗? A:设连续修正上限,超限转人工或返回失败状态。
  • Q:参数校验在哪一层做? A:应用入口强制校验,模型侧输出不构成可信边界。

10.4.1.2-006 工具结果回传模型时要注意什么?

一句话结论

结果按约定结构回传,带调用对应关系;大结果压缩为关键字段,错误结果完整保留状态码与原因;结果作为外部事实标注来源,不把工具返回的命令文本当指令执行。

概念解释

  • 对应关系:调用 ID ↔ 结果。
  • 结果压缩:大表/长列表提取要点。
  • 数据角色:结果是证据不是指令。

原理流程

  1. 执行得到原始结果或错误。
  2. 按大小结构化压缩/留存。
  3. 作为工具消息回传并标注来源。

代码 / 图示

tool_result = { call_id, status, data, error? }
data 过大 → 关键字段 + 外部引用

常见误区

  • 误区:工具结果原样全量回传;正解:大结果挤占上下文并引入噪声。
  • 误区:结果中的文本指令被执行;正解:外部返回材料是数据,需按不可信内容处理。

追问

  • Q:错误结果也要回传吗? A:要,完整错误状态供模型判断是否重试或换路径。
  • Q:结果隐私字段怎么处理? A:按权限脱敏后再回传模型,敏感字段不进入上下文。

10.4.1.2-007 模型选错工具或填错参数的常见原因有哪些?

一句话结论

原因:工具描述不清、工具数量过多相近、参数约束未写明、上下文缺少必要信息、模型能力限制;改进方向是优化描述与参数 schema、精简工具集、补齐上下文,而非单纯换模型。

概念解释

  • 描述问题:用途与边界不清。
  • 工具集问题:相近工具竞争。
  • 上下文问题:缺必要槽位。

原理流程

  1. 回放错题轨迹定位环节。
  2. 区分选错工具还是填错参数。
  3. 针对性修订描述/schema/上下文。

代码 / 图示

选错工具 → 描述区分/精简工具集
填错参数 → 参数约束/示例/上下文补齐

常见误区

  • 误区:选错工具都是模型笨;正解:先检查工具描述与参数定义是否清楚。
  • 误区:参数错了就放宽校验;正解:应修正模型输入与 schema,而不是放弃校验。

追问

  • Q:相近工具如何区分? A:在描述中写明适用对象、输入条件与返回差异。
  • Q:上下文缺信息怎么办? A:先通过澄清或前置工具获取,不要让模型臆造参数。

10.4.1.2-008 工具调用与最终回答如何交替?

一句话结论

每轮模型要么发起工具调用,要么给出最终回答;工具结果回传后模型再判断:信息充分则作答,不足则继续调用;应用层按返回类型路由,不把工具调用当最终答案输出给用户。

概念解释

  • 动作分支:调用 vs 回答。
  • 结果再判断:观察后决策。
  • 路由区分:两类消息分别处理。

原理流程

  1. 请求模型返回动作。
  2. 调用类型 → 执行回传;回答类型 → 收尾。
  3. 循环直到最终回答或终止。

代码 / 图示

返回 tool_call → 执行 → 回传 → 再请求
返回 final answer → 结束

常见误区

  • 误区:工具调用结果直接展示给用户;正解:结果先回传模型组织答案,原始工具数据不一定适合直接呈现。
  • 误区:要求模型一步到位;正解:多步工具链需要多次交替。

追问

  • Q:如何识别最终回答动作? A:按接口约定的响应类型区分,字段以官方文档为准。
  • Q:模型在工具结果后还想调用工具正常吗? A:正常,属于多步任务的继续观察。

10.4.1.2-009 工具调用的权限与安全边界在哪里?

一句话结论

应用层按身份与角色授权可调用的工具与数据范围;高危动作需确认或审批;输入做注入与越权校验;模型不能绕过应用直接访问系统;所有调用记录可审计。

概念解释

  • 授权:工具与数据范围按身份控制。
  • 确认:高危动作人工/规则确认。
  • 审计:调用与结果留痕。

原理流程

  1. 加载当前身份可用工具白名单。
  2. 调用前校验权限与输入。
  3. 高危动作确认后执行并审计。

代码 / 图示

tool 白名单(身份) → 参数/注入校验 → 高危确认 → 执行 → 审计记录

常见误区

  • 误区:提示中声明禁止越权就安全;正解:权限必须在应用层强制拦截。
  • 误区:工具内部不做数据权限校验;正解:工具实现自身还要校验数据归属,不能只靠入口。

追问

  • Q:模型请求越权工具怎么办? A:拒绝并记录,返回无权限说明,不开放底层绕过通道。
  • Q:高危动作清单谁定? A:业务按风险定义,如删除、支付、外发、批量写操作。

10.4.1.2-010 什么是工具白名单,为什么需要?

一句话结论

工具白名单是当前会话允许调用的工具集合,按角色、场景与任务动态加载;未在白名单内的调用直接拒绝;白名单缩小攻击面,避免模型能触达全部后端能力。

概念解释

  • 白名单:允许集合。
  • 动态加载:按场景挂载。
  • 拒绝默认:未授权不可用。

原理流程

  1. 按身份与任务确定可用工具。
  2. 请求只携带白名单工具定义。
  3. 调用前再次校验工具是否在集合内。

代码 / 图示

role/scene → 可用 tools 子集
调用 tool ∈ 白名单? 否 → 拒绝

常见误区

  • 误区:所有工具一次全挂给模型;正解:工具越多选择噪声越大,也扩大了可触达范围。
  • 误区:入口校验一次就够;正解:执行层再次校验,防止绕过入口直连。

追问

  • Q:工具集过大如何组织? A:按领域分组挂载,高频任务只带必需工具。
  • Q:白名单变更需要记录吗? A:需要,记录会话、身份与启用的工具集。

10.4.1.2-011 工具调用的幂等性为什么重要?

一句话结论

写操作工具应具备幂等能力:同一调用重复执行不产生重复副作用;Agent 重试或结果丢失可能重复发起调用,非幂等写操作会造成重复下单、重复扣款等后果。

概念解释

  • 幂等:重复执行结果一致。
  • 副作用:写操作影响外部状态。
  • 重试风险:网络/超时导致重复请求。

原理流程

  1. 写工具带业务幂等键。
  2. 重复请求识别为同一操作。
  3. 执行结果可安全重试。

代码 / 图示

创建订单(幂等键=会话+操作标识)
重复提交 → 识别已有记录, 返回结果, 不重复创建

常见误区

  • 误区:只要代码不重试就不会重复;正解:超时重试、用户重复触发都可能导致重复调用。
  • 误区:读工具也要强幂等;正解:读操作天然可重复,重点是写操作与外部副作用。

追问

  • Q:幂等键怎么生成? A:由应用生成稳定标识,模型参与构造时要防重复与冲突。
  • Q:非幂等工具怎么保护? A:加确认、状态检查与重复拦截,避免自动重试写操作。

10.4.1.2-012 多轮工具链如何管理上下文与状态?

一句话结论

每步工具结果压缩后回传,关键状态结构化保存;步骤间传递必要参数与产物,避免依赖模型在长上下文中记住细节;工具链进度可回放,失败能从断点继续。

概念解释

  • 中间产物:步骤结果与参数。
  • 状态传递:结构化交接。
  • 断点恢复:记录进度位置。

原理流程

  1. 每步执行后更新产物与状态。
  2. 下一步从状态取输入。
  3. 失败按断点恢复。

代码 / 图示

step1 产物 → 状态存储 → step2 读取
链条: 目标 → 产物1 → 产物2 → 最终答案

常见误区

  • 误区:靠对话历史传递中间参数;正解:长链条容易遗漏或混淆,结构化状态更可靠。
  • 误区:每步结果全文保留;正解:压缩为关键产物与引用,控制上下文规模。

追问

  • Q:产物格式怎么约定? A:工具间定义稳定字段结构,便于下游步骤解析。
  • Q:链条中途换模型能恢复吗? A:关键状态落存储后可以,仅靠上下文则不能。

10.4.1.2-013 工具返回错误有哪些类型,分别怎么处理?

一句话结论

类型:参数/业务校验错误、临时故障(超时、限流)、权限拒绝、数据不存在、上游业务失败;参数错误反馈修正,临时故障退避重试,权限与业务失败不重试绕过,记录错误后终止或换路径。

概念解释

  • 可修正:参数/输入问题。
  • 可重试:临时故障。
  • 不可恢复:权限、业务失败。

原理流程

  1. 解析错误码与类型。
  2. 按类型路由处理策略。
  3. 记录错误与最终处置。

代码 / 图示

参数错误 → 反馈修正
超时/限流 → 退避重试(上限)
权限拒绝/业务失败 → 终止或换路径, 不绕过

常见误区

  • 误区:所有错误都重试;正解:权限拒绝与业务校验失败重试无意义且有风险。
  • 误区:错误信息原样抛给用户;正解:对外脱敏,内部记录完整错误供排查。

追问

  • Q:限流错误怎么处理? A:退避后重试,遵守限流策略,达到上限转排队或提示。
  • Q:数据不存在算失败吗? A:属于正常业务结果,模型据此回答无记录,不当作系统错误。

10.4.1.2-014 工具定义版本化需要注意什么?

一句话结论

工具名、参数 schema 与描述随版本管理;模型配置与工具版本对应记录;变更参数必填项、枚举或语义时回归验证调用正确性;旧版本调用在过渡期兼容或明确下线策略。

概念解释

  • 版本对应:模型/提示 ↔ 工具版本。
  • 变更影响:必填、枚举、语义。
  • 回归:调用样本验证。

原理流程

  1. 工具定义纳入版本控制。
  2. 变更跑工具调用回归集。
  3. 记录线上配置的工具版本。

代码 / 图示

tool schema v1 → v2: 变更点/兼容策略
回归样本: 选择/参数/结果映射

常见误区

  • 误区:改工具描述不回归;正解:描述变化影响模型选工具,需对照错题集验证。
  • 误区:线上不记工具版本;正解:出问题无法复现当时 schema 与调用映射。

追问

  • Q:参数新增必填项怎么办? A:提示与模型配置同步更新,过渡期给默认或兼容处理。
  • Q:工具下线怎么通知? A:先从工具清单移除并回归,再停止后端实现。

10.4.1.2-015 如何测试 Function Calling 的选择与参数正确率?

一句话结论

准备任务样本集,标注期望工具与参数;评测工具选择正确率、参数字段正确率、必填项命中率与错误修正成功率;覆盖相近工具、缺参数、边界取值等场景;失败轨迹回流优化 schema 与提示。

概念解释

  • 选择指标:工具名是否正确。
  • 参数指标:字段与取值正确性。
  • 修正指标:错误反馈后能否改对。

原理流程

  1. 标注期望调用与参数。
  2. 跑样本集统计分层正确率。
  3. 错题归因改进。

代码 / 图示

工具选择正确率 · 参数字段正确率 · 必填命中 · 修正成功率

常见误区

  • 误区:只看能不能调出工具;正解:选错工具或参数错填等于调用失败。
  • 误区:测试样本都是顺利正例;正解:相近工具与缺参场景必须覆盖。

追问

  • Q:参数正确率怎么算? A:关键字段逐一核对,枚举与格式错误单独统计。
  • Q:线上怎么持续监控? A:抽样统计选择与参数错误率,按工具分组看趋势。

10.4.1.2-016 工具调用中如何防注入?

一句话结论

用户输入与外部数据作为参数值处理,不拼接成命令;参数按 schema 校验类型与范围;工具实现使用参数化接口,不拼接 SQL/Shell;外部返回内容视为不可信数据,不当指令执行;调用记录留存审计。

概念解释

  • 输入隔离:参数值而非命令片段。
  • 接口安全:参数化查询/调用。
  • 不可信数据:外部返回不执行。

原理流程

  1. 输入进入结构化参数。
  2. 工具内参数化调用后端。
  3. 外部结果作为证据回传。

代码 / 图示

用户输入 → 受控参数(类型/范围) → 参数化接口
外部返回 → 数据角色, 不解析为指令

常见误区

  • 误区:模型生成的参数就是安全的;正解:参数仍需应用与工具实现双重校验。
  • 误区:工具拼 SQL/Shell 省事;正解:拼接命令是注入主要入口,必须参数化。

追问

  • Q:提示注入与工具注入关系? A:外部材料诱导调用越权工具是组合风险,护栏在应用层拦截。
  • Q:参数中含特殊字符怎么办? A:按 schema 类型与白名单校验,转义由接口驱动层处理。

10.4.1.2-017 模型不确定该用哪个工具时应该怎么做?

一句话结论

上下文不足或工具相近时,模型应选择澄清或保守路径,而不是猜测参数强行调用;应用层也可识别低置信调用并要求补充信息;宁可多一次澄清,不可对不确定对象执行写操作。

概念解释

  • 低置信:工具/参数把握不足。
  • 澄清:补齐信息再调用。
  • 保守:写操作不猜测。

原理流程

  1. 识别缺少的关键信息。
  2. 发起澄清动作或请求确认。
  3. 信息齐备后再生成调用。

代码 / 图示

缺订单号 → ask_user 澄清
对象不确定 + 写操作 → 不执行, 要求确认

常见误区

  • 误区:Agent 必须直接给出动作;正解:澄清是合法动作,避免错误副作用。
  • 误区:读工具猜一下无所谓;正解:错误读取也可能暴露无权数据,关键对象都应确认。

追问

  • Q:低置信信号怎么判断? A:模型表达不确定、参数缺失或候选工具描述重叠,可作为提示。
  • Q:自动澄清话术怎么设计? A:明确列出需要补充的字段与取值范围。

10.4.1.2-018 工具调用日志应记录哪些内容?

一句话结论

记录会话与身份、工具名、参数摘要、返回状态与结果引用、时间戳与耗时、错误信息;敏感参数脱敏;日志用于成功率分析、安全审计与断点恢复;不记录明文密钥与完整隐私数据。

概念解释

  • 审计字段:身份、工具、参数、结果、时间。
  • 脱敏:敏感字段处理。
  • 用途:排查、安全、恢复。

原理流程

  1. 调用前后写入结构化日志。
  2. 敏感字段脱敏存储。
  3. 按轨迹关联检索。

代码 / 图示

log: session, role, tool, params(脱敏), status, result_ref, latency, error

常见误区

  • 误区:日志只记成功调用;正解:失败与拒绝调用同样需要留痕用于安全分析。
  • 误区:参数全量明文入库;正解:按合规要求脱敏并限制访问权限。

追问

  • Q:结果大对象记日志吗? A:存外部存储,日志只记引用与摘要。
  • Q:日志保留多久? A:按合规与运维需要设定,到期清理。

10.4.1.2-019 何时需要引入专用工具,何时复用通用工具?

一句话结论

高频、语义明确、参数稳定的动作抽成专用工具,描述与校验清晰;通用查询/搜索等能力复用通用工具;专用工具过多会膨胀选择空间,通用工具过泛会导致参数松散;按调用频率与边界清晰度取舍。

概念解释

  • 专用:特定对象/动作,强约束。
  • 通用:跨对象能力,参数灵活。
  • 取舍:频率、边界、校验成本。

原理流程

  1. 统计高频动作与参数形态。
  2. 边界清晰的高频动作专用化。
  3. 相近专用工具评估合并。

代码 / 图示

高频 + 边界清晰 → 专用工具
跨对象/低频 → 通用工具

常见误区

  • 误区:每个后端接口都包成工具;正解:工具集膨胀降低选择正确率。
  • 误区:一个万能工具包办所有写操作;正解:参数松散削弱校验与权限控制。

追问

  • Q:专用工具返回结构怎么定? A:面向下游消费设计字段,保持稳定兼容。
  • Q:工具集怎么瘦身? A:下线低频或重复工具,回归验证后移除。

10.4.1.2-020 Function Calling 落地清单是什么?

一句话结论

清单:工具 schema 与描述、白名单加载、参数校验与错误回传、并行/串行依赖判断、结果压缩与对应回传、权限与确认、幂等与重试、防注入、日志审计、版本化与选择/参数正确率回归。

概念解释

  • 定义与校验:schema、描述、边界。
  • 执行控制:权限、幂等、重试、注入。
  • 运营:日志、版本、回归指标。

原理流程

  1. 定义并版本化工具集。
  2. 实现校验、权限与执行链路。
  3. 监控指标并回流错题优化。

代码 / 图示

□ schema/描述  □ 白名单  □ 校验/错误回传  □ 依赖并行串行
□ 结果压缩回传  □ 权限确认  □ 幂等重试  □ 防注入
□ 日志审计  □ 版本回归  □ 选择/参数指标

常见误区

  • 误区:Function Calling 接通就上线;正解:权限、幂等、校验与审计是上线前必备项。
  • 误区:只在模型侧优化调用;正解:工具实现与参数安全同样属于调用链路职责。

追问

  • Q:工具 schema 细节设计? A:参数类型、必填、枚举与校验反馈见 10.4.1.3。
  • Q:多工具如何分工编排? A:见 10.4.1.4 多 Agent 编排与任务分解。