在LangChain框架中集成自定义工具到Llama 2模型,核心是通过框架提供的工具封装接口,把自定义功能转化为模型可识别的工具定义,再绑定到模型的调用链路中,让模型在生成回答时能自动判断是否需要调用工具并获取结果。

环境准备
首先需要安装对应的依赖包,确保LangChain、Llama 2相关的调用组件都已经就绪,执行以下命令完成安装:
pip install langchain langchain_community llama-cpp-python
这里使用llama-cpp-python作为Llama 2模型的本地调用方式,如果你使用的是其他部署方式的Llama 2,可替换对应的模型调用组件即可。
自定义工具的定义
LangChain中自定义工具需要实现两个核心部分:工具的功能逻辑,以及工具的描述信息。描述信息会传递给Llama 2模型,让模型理解工具的用途和调用参数。
假设我们需要定义一个获取当前时间的自定义工具,首先编写工具的功能函数:
from langchain.tools import Tool
import datetime
# 工具功能逻辑
def get_current_time(input_str: str) -> str:
# 输入参数这里不需要使用,仅做占位
now = datetime.datetime.now()
return f"当前时间是:{now.strftime('%Y-%m-%d %H:%M:%S')}"
接下来使用Tool类封装这个函数为LangChain可识别的工具:
# 封装为自定义工具
time_tool = Tool(
name="get_current_time", # 工具名称,模型会识别这个名称
func=get_current_time, # 工具对应的执行函数
description="当需要获取当前时间的时候调用这个工具,不需要输入任何参数" # 工具描述,模型根据这个描述判断是否需要调用
)
Llama 2模型初始化
接下来需要初始化Llama 2模型,这里使用本地加载GGUF格式的Llama 2模型为例,如果你使用的是API部署的Llama 2,调整对应的初始化方式即可:
from langchain_community.llms import LlamaCpp
# 初始化Llama 2模型,替换为你的模型文件路径
llm = LlamaCpp(
model_path="./llama-2-7b-chat.Q4_K_M.gguf",
temperature=0.7,
max_tokens=2000,
n_ctx=2048,
verbose=False
)
工具与模型绑定及调用
LangChain提供了initialize_agent方法,可以将自定义工具和模型绑定,创建出支持工具调用的代理对象:
from langchain.agents import initialize_agent, AgentType
# 定义工具列表,可添加多个自定义工具
tools = [time_tool]
# 初始化代理,绑定工具和模型
agent = initialize_agent(
tools,
llm,
agent=AgentType.STRUCTURED_CHAT_ZERO_SHOT_REACT_DESCRIPTION,
verbose=True # 开启详细日志,方便查看模型调用工具的过程
)
# 执行查询,测试工具调用效果
result = agent.run("现在是什么时间,帮我查询一下")
print(result)
运行上述代码后,模型会识别到需要调用获取时间的工具,执行工具函数后返回结果,最终输出的内容会包含当前时间信息。
多工具集成示例
如果需要集成多个自定义工具,只需要把所有工具都添加到tools列表中即可,比如再添加一个简单的加法计算工具:
# 加法计算工具逻辑
def add_numbers(input_str: str) -> str:
try:
# 输入格式为两个数字用逗号分隔
a, b = map(float, input_str.split(","))
return f"{a}加{b}的结果是:{a + b}"
except Exception as e:
return f"计算失败:{str(e)}"
# 封装加法工具
add_tool = Tool(
name="add_numbers",
func=add_numbers,
description="当需要计算两个数字相加的时候调用这个工具,输入是两个数字用英文逗号分隔的字符串"
)
# 重新定义工具列表,包含两个自定义工具
tools = [time_tool, add_tool]
# 重新初始化代理
agent = initialize_agent(
tools,
llm,
agent=AgentType.STRUCTURED_CHAT_ZERO_SHOT_REACT_DESCRIPTION,
verbose=True
)
# 测试多工具调用
result = agent.run("帮我计算12.5加37.8的结果,同时告诉我现在的时间")
print(result)
此时模型会自动判断需要调用两个工具,分别获取计算结果和当前时间,最终整合结果返回给用户。
注意事项
- 工具的描述信息需要尽可能清晰准确,模型完全依赖描述来判断是否调用工具以及传入什么参数,描述模糊可能导致调用失败。
- 自定义工具的函数需要处理异常情况,避免工具执行出错导致整个代理调用流程中断。
- 如果Llama 2模型的上下文长度有限,不要添加过多复杂的工具,避免工具描述占用过多上下文空间,影响模型生成效果。
LangChainLlama_2custom_tool大模型集成修改时间:2026-06-21 02:30:31