在构建基于大模型的智能体时，让模型学会在合适的时机调用外部工具是核心难题之一。工具使用推理提示词是一类特殊的系统指令，它不仅要告诉模型有哪些工具可用，还要引导模型完成从意图识别、参数抽取到结果整合的完整推理链。如果提示词设计得过于简略，模型往往会把工具调用当作普通文本生成，导致整个流程失效。
工具使用推理提示词的基础结构
一个可用的工具使用推理提示词通常包含工具清单、调用规范和推理步骤三部分。工具清单以结构化方式列出每个工具的名称、功能描述和参数定义。调用规范则约束模型必须以特定格式输出调用请求，例如 JSON 对象或类函数表达式。推理步骤用于显式要求模型先思考再行动，比如先判断用户需求是否超出自身知识边界，再决定是否触发工具。
很多初学者喜欢把工具说明直接写成一段自然语言，例如“你可以搜索天气，也可以查股票”。这种写法在简单场景能跑通，但模型经常混淆参数类型，比如把城市名写成数字。更稳健的做法是在提示词中给出强类型签名：get_weather(city: string, date: string)。配合少量示例，模型能更快对齐格式。
下面给出一个最小可用的系统提示片段，注意其中的参数说明和输出格式约束：
你是一个具备工具调用能力的助手。可用工具如下：
1. search_web(query: string) - 返回搜索结果列表
2. calc(expr: string) - 计算数学表达式
当用户问题需要实时信息或计算时，先输出一行 <think> 说明原因，再输出如下格式调用：
{"tool": "search_web", "args": {"query": "北京天气"}}
若无需工具，直接回答。用少样本示例强化推理路径
仅有工具签名还不够，模型需要知道在什么语境下应该走工具而不是凭记忆回答。此时应在提示词里加入两到三个完整的推理示例，覆盖典型成功路径和必要的拒答路径。示例的价值在于把隐式的决策边界显式化，例如“用户问‘今天股价’必须调用工具，问‘勾股定理是什么’则不需要”。
示例的写法建议采用先思考后调用的结构。先展示模型内部该如何分析，再给出标准输出。这样在真实推理时，模型会模仿该路径，先生成分析文本再发工具请求，便于后端截取。以下代码展示了一个带思考链的示例段落，可供拼接到提示词尾部：
用户：帮我算一下 (23+19)*4
助手：<think>这是纯计算任务，应使用 calc 工具</think>
{"tool": "calc", "args": {"expr": "(23+19)*4"}}
用户：李白是谁
助手：李白是唐代著名诗人，无需调用工具。要注意示例中的参数值必须符合真实工具的接口。如果示例里写了错误类型，模型会将其当作规范继承。因此每次变更工具定义，都要同步修订提示词中的示例，避免新旧格式混用引发解析异常。
错误处理与兜底策略的提示设计
工具调用不可能永远成功，网络超时、参数越界、权限不足都会发生。推理提示词必须提前告知模型：当工具返回错误时，应先读取 error 字段，再决定是否换参数重试或直接用自然语言说明无法完成。缺少这一层指引，模型容易忽略错误继续编造答案。
一种有效模式是在提示词末尾加入“异常处理约定”小节。要求模型在收到工具报错后输出特定结构，例如 {"retry": true, "reason": "城市名无效"}，由调度器判断是否再次调用。若重试次数用尽，则允许模型坦诚告知用户并给出替代建议。以下代码给出一个异常约定的参考文本：
当工具返回包含 "error" 的响应时： - 若属参数问题，修正后重试，最多2次 - 若属服务不可用，输出：抱歉，某工具暂不可用，原因：<错误摘要> 禁止隐瞒错误而虚构结果。
在实际项目中，我们还会把人工兜底写进提示词：当模型连续两次无法正确调用工具时，引导其生成工单式摘要交给人类处理。这种闭环设计能显著降低野指针式回答带来的风险，也让智能体在复杂业务里更可控。
推理提示词的调试与评估方法
提示词写完后不能只看跑通一次就上线。建议构造一组覆盖边界的测试用例，包含模糊提问、多工具竞争、缺参数场景。通过对比模型输出与预期调用，定位提示词哪一部分约束力度不足。比如发现模型常在日期缺省时乱填，就应在提示词补一句“未提供日期时默认用今天”。
另一个实用技巧是把推理过程本身打印出来。由于我们在提示词要求模型先输出 <think> 片段，后端可临时展示该片段用于排查。若思考链频繁出现“我觉得不用工具”，但答案却错了，说明工具触发条件写得太窄。此时放宽判定语或增加反例即可改善。
评估时也可借助小规模脚本批量跑提示词版本。把不同版本的提示词作为变量，统计工具调用准确率和非法格式率。只有两项指标都稳定，才说明这套工具使用推理提示词真正具备生产可用性，而不是碰巧在某个 demo 里显得聪明。
tool_useprompt_engineeringLLM_agent修改时间：2026-08-14 11:36:30