大模型Function Calling是指让语言模型在对话过程中,根据用户输入决定是否调用外部函数,并生成符合约定的参数结构,从而把自然语言变成可执行操作。这种机制让模型不再只是生成文本,而是能连接数据库、API和本地逻辑。实现时,我们通常需要向模型提供工具定义,然后在对话回路中拦截模型的工具调用意图,执行真实代码后再把结果回传。

工具定义与Schema编写
要让模型知道有哪些函数可用,必须先把每个工具写成模型能理解的元数据。最常见的方式是使用类似JSON Schema的结构,描述函数名、用途、参数类型和必填项。模型本身并不执行这些函数,它只负责在合适的时候输出对应的名称和参数对象。如果Schema写得模糊,模型就容易乱填参数,或者在该调用时选择不调用。
下面给出一个查天气工具的声明示例。注意description字段要用自然语言把什么时候该用这个函数写清楚,这直接影响模型的命中率。参数部分用type和properties约束,避免模型传出奇怪的值。在实际项目中,我们会把多个工具放在一个数组里传给接口。
{
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "根据用户提供的城市名称查询当前天气情况",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称,例如北京"
}
},
"required": ["city"]
}
}
}
]
}
除了单个工具的定义,还要考虑工具数量变多时的冲突问题。当模型面对十个以上函数,它可能会选错。此时可以在description里加入互斥说明,比如写明某函数仅在用户明确要算数学题时才用。另外,参数的枚举值尽量写全,减少模型自由发挥的空间。
对话回路与调用解析
定义好工具后,真正的难点在对话循环。一次请求发出后,模型可能直接回复文本,也可能返回tool_calls字段。我们需要写代码判断:如果有工具调用,就本地执行对应函数,再把结果以角色为tool的消息发回去,让模型基于结果生成最终回答。这个过程往往要循环两到三次。
以下Python片段展示了一个最简回路。我们用openai风格接口举例,先发送系统和用户消息,再检查返回。若发现tool_calls,就提取函数名与参数,分发到本地实现,最后把结果回传。注意异常处理不能少,因为模型可能传了不存在的函数名。
import json
def get_weather(city):
return {"city": city, "temp": 26, "desc": "晴"}
def run_conv(messages, client):
resp = client.chat.completions.create(
model="gpt-4o",
messages=messages,
tools=tools_def
)
msg = resp.choices[0].message
if msg.tool_calls:
for call in msg.tool_calls:
fname = call.function.name
args = json.loads(call.function.arguments)
if fname == "get_weather":
result = get_weather(args["city"])
else:
result = {"error": "unknown function"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result)
})
return run_conv(messages, client)
return msg.content
在解析环节,一个常见错误是相信模型给的参数是合法的。我们必须做一层校验,比如用jsonschema库验证结构,或者手动判断类型。若校验失败,可以再把错误写回tool消息,让模型重试一次。这样比直接崩溃体验好得多,也更符合生产环境要求。
模式对比与落地建议
目前主流有两种落地方式。一种是自动模式,即把工具全交给模型,由它自己决定调不调、调哪个;另一种是人工路由,先用小模型或规则判断意图,再决定注入哪些工具。自动模式开发快,但令牌消耗大,且不可控;人工路由更省成本,适合工具很多的系统,但要多写分类逻辑。
从稳定性看,自动模式在简单场景表现好,比如只挂两三个工具。一旦工具超过十个,模型就开始犯迷糊,尤其当功能相近时。此时人工路由可以先筛出候选集,再把缩小后的tools传给模型。我们在内部系统里用意图关键词匹配,把二十个工具降到三到五个,错误率降了一半。
| 模式 | 优点 | 缺点 |
|---|---|---|
| 自动调用 | 代码少,迭代快 | 耗令牌,易选错 |
| 人工路由 | 可控,成本低 | 需维护分类规则 |
最后谈一下安全。模型生成的参数绝不能原样拼进Shell或SQL,必须参数化。我们的做法是本地函数只接收基础类型,绝不接收拼接命令。配合白名单和超时控制,即使模型被诱导,也不会造成系统级破坏。把这些细节补上,你的Function Calling教程才算真正能用到线上。
Function_Calling大模型工具调用修改时间:2026-08-14 10:42:28