无需编程用LLaMA-Factory三步打造会用工具的AI助手【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100 LLMs VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory你是否遇到过这样的困境训练的AI模型虽然能流畅对话却连简单的数学计算都频频出错或者想让它查询天气、生成图表时它总是答非所问现在这些问题可以通过LLaMA-Factory的工具调用微调功能轻松解决。本文将带你零代码实现一个能调用计算器、查询数据的智能助手让AI真正成为你的生产力工具。为什么需要工具调用能力传统大语言模型LLM虽然在文本生成和对话方面表现出色但在处理精确计算、实时数据查询和复杂逻辑任务时常常力不从心。例如当你问3.14乘以1.678等于多少时模型可能给出错误答案当你需要最新的天气预报时它只能依赖训练数据中的旧信息。工具调用Tool Call功能让AI模型能够像人类一样使用外部工具精确计算调用计算器处理数学问题实时信息查询天气、股票、新闻等动态数据复杂操作生成图表、发送邮件、数据库查询LLaMA-Factory提供了完整的工具调用微调方案只需准备数据和配置文件无需编写代码即可训练出专业级工具使用能力的AI助手。工具调用微调三步骤步骤1准备工具调用数据集LLaMA-Factory提供了标准的工具调用数据格式你可以直接使用项目内置的示例数据或创建自定义数据集。项目内置的中英文工具调用示例数据位于英文工具调用示例中文工具调用示例以下是中文工具调用示例的结构来自data/glaive_toolcall_zh_demo.json{ conversations: [ { from: human, value: 我需要为John Doe生成一张发票。他购买了2个苹果每个$1以及3根香蕉每根$0.5。 }, { from: function_call, value: {\name\: \generate_invoice\, \arguments\: {\customer_name\: \约翰·多伊\, \items\: [{\name\: \苹果\, \quantity\: 2, \price\: 1}, {\name\: \香蕉\, \quantity\: 3, \price\: 0.5}]}} }, { from: observation, value: {\invoice_id\: \INV12345\, \customer_name\: \约翰·多伊\, \items\: [{\name\: \苹果\, \quantity\: 2, \price\: 1, \total\: 2}, {\name\: \香蕉\, \quantity\: 3, \price\: 0.5, \total\: 1.5}], \total\: 3.5, \status\: \生成\} }, { from: gpt, value: 发票已成功生成。发票编号为INV12345。约翰·多伊的总金额为$3.5。 } ], tools: [{\name\: \generate_invoice\, \description\: \生成发票\, \parameters\: {\type\: \object\, \properties\: {\customer_name\: {\type\: \string\, \description\: \客户名称\}, \items\: {\type\: \array\, \items\: {\type\: \object\, \properties\: {\name\: \苹果\, \quantity\: 2, \price\: 1}, \required\: [\name\, \quantity\, \price\]}}}, \required\: [\customer_name\, \items\]}}] }这个示例展示了完整的工具调用流程用户提出需要生成发票的需求AI决定调用generate_invoice工具并传递参数工具返回结果发票信息AI将工具返回结果整理成自然语言回答用户步骤2配置微调参数LLaMA-Factory使用YAML配置文件管理训练参数你只需修改少量关键配置即可开始工具调用微调。我们以Llama 3模型的LoRA微调为例创建或修改配置文件examples/train_lora/llama3_lora_sft.yaml### model model_name_or_path: meta-llama/Meta-Llama-3-8B-Instruct trust_remote_code: true ### method stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: all ### dataset - 关键修改添加工具调用数据集 dataset: identity,glaive_toolcall_zh_demo,glaive_toolcall_en_demo template: llama3 cutoff_len: 2048 max_samples: 1000 ### output output_dir: saves/llama3-8b/lora/toolcall logging_steps: 10 save_steps: 500 plot_loss: true ### train per_device_train_batch_size: 1 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 3.0 lr_scheduler_type: cosine warmup_ratio: 0.1 bf16: true关键修改说明dataset添加glaive_toolcall_zh_demo和glaive_toolcall_en_demo数据集output_dir设置输出目录为saves/llama3-8b/lora/toolcall方便区分普通SFT和工具调用SFT步骤3启动微调训练完成数据准备和配置文件修改后只需运行以下命令启动微调python src/train.py examples/train_lora/llama3_lora_sft.yaml训练过程中你可以通过TensorBoard监控损失变化tensorboard --logdir saves/llama3-8b/lora/toolcall训练完成后模型权重将保存在output_dir指定的路径下通常包含以下文件adapter_model.binLoRA权重文件adapter_config.jsonLoRA配置文件training_args.bin训练参数工具调用微调原理解析LLaMA-Factory的工具调用能力基于精心设计的格式化器和工具实用程序实现主要代码位于src/llamafactory/data/formatter.py处理工具调用格式的格式化器src/llamafactory/data/tool_utils.py工具调用相关的工具函数工具调用格式处理ToolFormatter类负责将工具定义和调用格式化为模型能够理解的格式。它支持多种模型的工具调用格式如Llama 3、Qwen、GLM-4等class ToolFormatter(Formatter): def __post_init__(self): self.tool_utils get_tool_utils(self.tool_format) # 根据工具格式名称获取对应工具 def apply(self, **kwargs) - SLOTS: content kwargs.pop(content) try: tools json.loads(content) return [self.tool_utils.tool_formatter(tools) if len(tools) ! 0 else ] except json.JSONDecodeError: raise RuntimeError(fInvalid JSON format in tool description: {str([content])}.)工具调用提取在推理阶段tool_extractor函数负责从模型输出中提取工具调用信息staticmethod def tool_extractor(content: str) - Union[str, list[FunctionCall]]: regex re.compile(rtool_call(.?)/tool_call(?\s*tool_call|\s*$), re.DOTALL) tool_match: list[str] re.findall(regex, content) if not tool_match: return content results [] for tool in tool_match: try: tool json.loads(tool.strip()) except json.JSONDecodeError: return content if name not in tool or arguments not in tool: return content results.append(FunctionCall(tool[name], json.dumps(tool[arguments], ensure_asciiFalse))) return results这段代码能够从模型输出中提取出工具名称和参数为后续实际调用工具做准备。常见问题与解决方案问题1模型不调用工具直接回答可能原因工具调用数据不足或质量不高解决方案增加工具调用样本数量确保每个工具都有足够的训练样本检查数据格式是否正确特别是function_call部分的JSON格式尝试调整learning_rate和num_train_epochs参数增加训练强度问题2模型调用工具但参数格式错误可能原因训练数据中工具参数格式不一致解决方案使用数据验证脚本检查并修复数据中的格式错误在配置文件中设置max_samples为较大值确保模型看到足够多样的参数示例尝试使用更大的lora_rank如16增强模型学习复杂模式的能力问题3训练过程中损失不下降可能原因学习率设置不当或 batch size 过小解决方案调整learning_rate通常在1e-5到1e-4之间增加gradient_accumulation_steps以模拟更大的batch size检查数据集是否正确加载可通过preprocessing_num_workers0调试数据加载问题总结与下一步通过本文介绍的三步法你已经掌握了使用LLaMA-Factory微调AI模型工具调用能力的方法。现在你的模型不仅能进行自然对话还能调用各种工具完成实际任务。下一步你可以扩展工具集创建自定义工具和数据集训练模型使用特定领域工具优化推理使用vllm_infer.py实现高效工具调用推理构建应用结合FastAPI或Gradio构建包含工具调用功能的AI助手应用LLaMA-Factory项目持续更新更多工具调用相关的功能和优化将不断加入。如有问题或建议欢迎通过项目GitHub Issues反馈。提示训练工具调用模型需要较多的计算资源建议使用至少12GB显存的GPU。如果没有足够资源可尝试使用Colab或DSW等云端平台进行训练。希望本文对你有所帮助祝你的AI助手越来越智能如果觉得本文有用请点赞收藏关注项目获取最新更新。【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100 LLMs VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
无需编程用LLaMA-Factory三步打造会用工具的AI助手【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100 LLMs VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory你是否遇到过这样的困境训练的AI模型虽然能流畅对话却连简单的数学计算都频频出错或者想让它查询天气、生成图表时它总是答非所问现在这些问题可以通过LLaMA-Factory的工具调用微调功能轻松解决。本文将带你零代码实现一个能调用计算器、查询数据的智能助手让AI真正成为你的生产力工具。为什么需要工具调用能力传统大语言模型LLM虽然在文本生成和对话方面表现出色但在处理精确计算、实时数据查询和复杂逻辑任务时常常力不从心。例如当你问3.14乘以1.678等于多少时模型可能给出错误答案当你需要最新的天气预报时它只能依赖训练数据中的旧信息。工具调用Tool Call功能让AI模型能够像人类一样使用外部工具精确计算调用计算器处理数学问题实时信息查询天气、股票、新闻等动态数据复杂操作生成图表、发送邮件、数据库查询LLaMA-Factory提供了完整的工具调用微调方案只需准备数据和配置文件无需编写代码即可训练出专业级工具使用能力的AI助手。工具调用微调三步骤步骤1准备工具调用数据集LLaMA-Factory提供了标准的工具调用数据格式你可以直接使用项目内置的示例数据或创建自定义数据集。项目内置的中英文工具调用示例数据位于英文工具调用示例中文工具调用示例以下是中文工具调用示例的结构来自data/glaive_toolcall_zh_demo.json{ conversations: [ { from: human, value: 我需要为John Doe生成一张发票。他购买了2个苹果每个$1以及3根香蕉每根$0.5。 }, { from: function_call, value: {\name\: \generate_invoice\, \arguments\: {\customer_name\: \约翰·多伊\, \items\: [{\name\: \苹果\, \quantity\: 2, \price\: 1}, {\name\: \香蕉\, \quantity\: 3, \price\: 0.5}]}} }, { from: observation, value: {\invoice_id\: \INV12345\, \customer_name\: \约翰·多伊\, \items\: [{\name\: \苹果\, \quantity\: 2, \price\: 1, \total\: 2}, {\name\: \香蕉\, \quantity\: 3, \price\: 0.5, \total\: 1.5}], \total\: 3.5, \status\: \生成\} }, { from: gpt, value: 发票已成功生成。发票编号为INV12345。约翰·多伊的总金额为$3.5。 } ], tools: [{\name\: \generate_invoice\, \description\: \生成发票\, \parameters\: {\type\: \object\, \properties\: {\customer_name\: {\type\: \string\, \description\: \客户名称\}, \items\: {\type\: \array\, \items\: {\type\: \object\, \properties\: {\name\: \苹果\, \quantity\: 2, \price\: 1}, \required\: [\name\, \quantity\, \price\]}}}, \required\: [\customer_name\, \items\]}}] }这个示例展示了完整的工具调用流程用户提出需要生成发票的需求AI决定调用generate_invoice工具并传递参数工具返回结果发票信息AI将工具返回结果整理成自然语言回答用户步骤2配置微调参数LLaMA-Factory使用YAML配置文件管理训练参数你只需修改少量关键配置即可开始工具调用微调。我们以Llama 3模型的LoRA微调为例创建或修改配置文件examples/train_lora/llama3_lora_sft.yaml### model model_name_or_path: meta-llama/Meta-Llama-3-8B-Instruct trust_remote_code: true ### method stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: all ### dataset - 关键修改添加工具调用数据集 dataset: identity,glaive_toolcall_zh_demo,glaive_toolcall_en_demo template: llama3 cutoff_len: 2048 max_samples: 1000 ### output output_dir: saves/llama3-8b/lora/toolcall logging_steps: 10 save_steps: 500 plot_loss: true ### train per_device_train_batch_size: 1 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 3.0 lr_scheduler_type: cosine warmup_ratio: 0.1 bf16: true关键修改说明dataset添加glaive_toolcall_zh_demo和glaive_toolcall_en_demo数据集output_dir设置输出目录为saves/llama3-8b/lora/toolcall方便区分普通SFT和工具调用SFT步骤3启动微调训练完成数据准备和配置文件修改后只需运行以下命令启动微调python src/train.py examples/train_lora/llama3_lora_sft.yaml训练过程中你可以通过TensorBoard监控损失变化tensorboard --logdir saves/llama3-8b/lora/toolcall训练完成后模型权重将保存在output_dir指定的路径下通常包含以下文件adapter_model.binLoRA权重文件adapter_config.jsonLoRA配置文件training_args.bin训练参数工具调用微调原理解析LLaMA-Factory的工具调用能力基于精心设计的格式化器和工具实用程序实现主要代码位于src/llamafactory/data/formatter.py处理工具调用格式的格式化器src/llamafactory/data/tool_utils.py工具调用相关的工具函数工具调用格式处理ToolFormatter类负责将工具定义和调用格式化为模型能够理解的格式。它支持多种模型的工具调用格式如Llama 3、Qwen、GLM-4等class ToolFormatter(Formatter): def __post_init__(self): self.tool_utils get_tool_utils(self.tool_format) # 根据工具格式名称获取对应工具 def apply(self, **kwargs) - SLOTS: content kwargs.pop(content) try: tools json.loads(content) return [self.tool_utils.tool_formatter(tools) if len(tools) ! 0 else ] except json.JSONDecodeError: raise RuntimeError(fInvalid JSON format in tool description: {str([content])}.)工具调用提取在推理阶段tool_extractor函数负责从模型输出中提取工具调用信息staticmethod def tool_extractor(content: str) - Union[str, list[FunctionCall]]: regex re.compile(rtool_call(.?)/tool_call(?\s*tool_call|\s*$), re.DOTALL) tool_match: list[str] re.findall(regex, content) if not tool_match: return content results [] for tool in tool_match: try: tool json.loads(tool.strip()) except json.JSONDecodeError: return content if name not in tool or arguments not in tool: return content results.append(FunctionCall(tool[name], json.dumps(tool[arguments], ensure_asciiFalse))) return results这段代码能够从模型输出中提取出工具名称和参数为后续实际调用工具做准备。常见问题与解决方案问题1模型不调用工具直接回答可能原因工具调用数据不足或质量不高解决方案增加工具调用样本数量确保每个工具都有足够的训练样本检查数据格式是否正确特别是function_call部分的JSON格式尝试调整learning_rate和num_train_epochs参数增加训练强度问题2模型调用工具但参数格式错误可能原因训练数据中工具参数格式不一致解决方案使用数据验证脚本检查并修复数据中的格式错误在配置文件中设置max_samples为较大值确保模型看到足够多样的参数示例尝试使用更大的lora_rank如16增强模型学习复杂模式的能力问题3训练过程中损失不下降可能原因学习率设置不当或 batch size 过小解决方案调整learning_rate通常在1e-5到1e-4之间增加gradient_accumulation_steps以模拟更大的batch size检查数据集是否正确加载可通过preprocessing_num_workers0调试数据加载问题总结与下一步通过本文介绍的三步法你已经掌握了使用LLaMA-Factory微调AI模型工具调用能力的方法。现在你的模型不仅能进行自然对话还能调用各种工具完成实际任务。下一步你可以扩展工具集创建自定义工具和数据集训练模型使用特定领域工具优化推理使用vllm_infer.py实现高效工具调用推理构建应用结合FastAPI或Gradio构建包含工具调用功能的AI助手应用LLaMA-Factory项目持续更新更多工具调用相关的功能和优化将不断加入。如有问题或建议欢迎通过项目GitHub Issues反馈。提示训练工具调用模型需要较多的计算资源建议使用至少12GB显存的GPU。如果没有足够资源可尝试使用Colab或DSW等云端平台进行训练。希望本文对你有所帮助祝你的AI助手越来越智能如果觉得本文有用请点赞收藏关注项目获取最新更新。【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100 LLMs VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
![[C++]内存管理：串顺序存储的内存回收](http://pic.xiahunao.cn/yaotu/[C++]内存管理：串顺序存储的内存回收)
