【模型手术室】第四篇：全流程实战 —— 使用 LLaMA-Factory 开启你的第一个微调任务
专栏进度：04 / 10 (微调实战专题)
很多初学者卡在环境配置和复杂的 torch.train 逻辑上。LLaMA-Factory 的核心优势在于它集成了几乎所有主流国产模型（DeepSeek, Qwen, Yi）和海外模型（Llama 3, Mistral），并且原生支持 Gradio 可视化面板，让你在网页上点点鼠标就能“炼丹”。
一、 环境搭建：打造你的“炼丹炉”
为了保证训练不因版本冲突而崩溃，建议使用 Conda 进行物理隔离。
Bash
- 克隆项目
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
- 安装核心依赖 (针对 CUDA 12.1 环境)
pip install -e .[metrics,bitsandbytes,qwen]
- 验证是否安装成功
llamafactory-cli version
二、 准备食材：注册你的“行业黑话”数据集
LLaMA-Factory 有一套自己的数据集管理逻辑。你需要把上一篇生成的 security_expert_data.jsonl 放入 data/ 目录，并在 data/dataset_info.json 中注册它。
注册示例：
JSON
“my_security_data”: {
“file_name”: “security_expert_data.jsonl”,
“columns”: {
“prompt”: “instruction”,
“query”: “input”,
“response”: “output”
}
}
三、 点火炼丹：WebUI 模式与脚本模式
- 初学者推荐：WebUI 模式
在终端执行 llamafactory-cli webui。
你会看到一个极其直观的界面。你需要设置：
模型名称：选择 DeepSeek-V3 或 Qwen2.5-7B。
微调方法：选择 lora。
数据集：勾选你刚刚注册的 my_security_data。
学习率：建议 5e-5。
计算精度：显存够选 bf16，不够选 fp16 或 int4。
- 高阶推荐：命令行模式 (CLI)
一旦参数调优确定，建议使用脚本运行，更稳定且方便记录。
Bash
llamafactory-cli train
–stage sft
–do_train
–model_name_or_path /path/to/your/model
–dataset my_security_data
–template qwen
–finetuning_type lora
–output_dir ./saves/security_agent_v1
–per_device_train_batch_size 4
–gradient_accumulation_steps 4
–lr_scheduler_type cosine
–logging_steps 10
–save_steps 100
–learning_rate 5e-5
–num_train_epochs 3.0
–plot_loss
–fp16
四、 关键指标：如何看懂“炼丹炉”里的 Loss 曲线
在训练过程中，你会看到一个不断下降的 Loss（损失值） 曲线。
理想曲线：平稳下降，最后在某个数值（如 0.5 - 1.2 之间）开始横向震荡。
警报曲线：Loss 突然降到 0（过拟合，模型只会背书）或者 Loss 突然飙升（梯度爆炸，模型疯了）。
对策：如果 Loss 不降，调大 learning_rate；如果 Loss 波动太大，调小 learning_rate 并增大 batch_size。
五、 避坑指南：显存溢出的“救命稻草”
如果你运行报错 OutOfMemoryError：
开启量化：使用 --quantization_bit 4。
降低长度：将 --cutoff_len 从 1024 降到 512。
梯度检查点：确保开启了 --gradient_checkpointing。
