LLaMA Factory 微调古汉语特化大模型
如果你是一位汉语言研究者，想要构建一个能够精准对对联的 AI 助手，但发现现成的大模型对平仄规则和古汉语韵律理解不佳，那么这篇文章正是为你准备的。本文将详细介绍如何快速搭建一个支持《全唐诗》数据集加载和自定义评价指标的古汉语大模型微调环境。这类任务通常需要 GPU 环境支持。
为什么需要古汉语特化的大模型？
现代通用大语言模型虽然在日常对话和文本生成上表现优异，但在处理古汉语这类特殊文本时往往力不从心：
- 平仄规则理解偏差：现成模型对古诗词的平仄、对仗规则缺乏专业训练
- 文言文语料不足：预训练数据中古汉语占比通常很低
- 评价指标不匹配：通用语言评价指标无法准确衡量对联质量
专用镜像旨在解决这些问题，它预装了：
- 基于 LLaMA 架构的古汉语优化基础模型
- 完整的《全唐诗》数据集及预处理脚本
- 专门针对对联任务设计的评价指标工具包
- LLaMA Factory 可视化微调界面
快速部署微调环境
让我们从最基本的镜像部署开始。假设你已经在支持 GPU 的环境中获取了镜像，以下是启动步骤：
- 拉取并启动容器（以下命令可直接复制执行）：
docker run --gpus all -it -p 7860:7860 \ -v /path/to/your/data:/data \ your-custom-image:latest - 初始化微调环境：
cd /app/llama-factory python src/train_web.py - 访问 Web 界面：在浏览器打开
http://localhost:7860，你将看到 LLaMA Factory 的图形化操作界面。
提示：首次运行时，系统会自动下载基础模型权重（约 7-13GB），请确保网络畅通和足够的磁盘空间。
加载《全唐诗》数据集进行微调
镜像已经内置了经过清洗的《全唐诗》数据集，位于 /data/tang_poetry 目录下。要使用这些数据进行微调：
- 在 Web 界面左侧菜单选择"数据集"
- 点击"添加数据集"，选择路径
/data/tang_poetry - 配置以下关键参数：
| 参数名 | 推荐值 | 说明 |
|---|---|---|
| 微调方法 | LoRA | 节省显存的最佳选择 |
| 学习率 | 3e-5 | 古汉语任务建议较低学习率 |
| 批大小 | 8 | 根据显存调整 |
| 训练轮次 | 3 | 防止过拟合 |
- 点击"开始训练"按钮
训练过程中，你可以在"日志"标签页实时查看损失值变化。对于对联任务，建议重点关注以下指标：
- 平仄匹配准确率
- 对仗工整度
- 语义连贯性评分
自定义对联评价指标
镜像内置的评价指标可能不完全符合你的需求，这时可以添加自定义指标。以下是添加平仄评价指标的示例代码（保存为 ）：
