LlamaFactory Lora 合并大模型,GGUF 转换与 Ollama 部署Open
模型合并
将 base model 与训练好的 LoRA Adapter 合并成一个新的模型。注意：不要使用量化后的模型或
quantization_bit参数进行合并。
我们可以在llamafactory界面上讲模型进行合并，或者是使用命令行对模型进行合并
1、使用界面对模型进行合并
2、使用命令行对模型进行合并
首先这里你需要新建一个配置文件merge_llama3_lora_sft.yaml（名字可以自定义）
以下是 merge_llama3_lora_sft.yaml 的内容：
### Note: DO NOT use quantized model or quantization_bit when merging lora adapters ### model model_name_or_path: /root/autodl-tmp/models/Llama3-8B-Chinese-Chat/ adapter_name_or_path: /root/code/LLaMA-Factory/saves/LLaMA3-8B-Chinese Chat/lora/train_2024-05-25-20-27-47 template: llama3 finetuning_type: lora ### export export_dir: /root/autodl-tmp/models/LLaMA3-8B-C
免责声明：我们致力于保护作者版权，注重分享，被刊用文章因无法核实真实出处，未能及时与作者取得联系，或有版权异议的，请联系管理员，我们会立即处理! 部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理! 图片声明：本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库和百度，360，搜狗等多加搜索引擎自动关键词搜索配图，如有侵权的图片，请第一时间联系我们。
