档针对 NVIDIA RTX 50 系列（sm_120）硬件，解决了部署 Unsloth 和 vLLM 时遇到的 PyTorch 版本兼容及依赖冲突问题。通过手动指定 PyTorch 2.9.1 构建标签绕过 Poetry 锁机制，并采用源码安装方式补全组件，成功实现了在 CUDA 13.1 驱动下的环境配置。验证显示 CUDA 能力识别正常，虽存在部分非阻断性导入报错，但不影响 LLM 训练任务运行。
在 NVIDIA RTX 50 系列（Compute Capability sm_120）硬件发布初期，部署基于 Unsloth 和 vLLM 的大模型训练环境面临严峻的依赖冲突。主要表现为：标准安装流程默认拉取不支持 sm_120 的旧版 PyTorch (2.5.x)，导致 CUDA 内核无法加载；强制升级 PyTorch 至适配版本 (2.9.x) 后，会导致 Poetry/Pip 的依赖解析器因版本不匹配而死锁。本文档详细记录了绕过 Poetry 依赖锁机制，通过'外科手术式'手动构建环境的完整解决方案。
本解决方案仅适用于以下或更新的'Bleeding Edge'前沿开发环境：
在使用标准命令 pip install unsloth 或配置 pyproject.toml 进行安装时，遇到以下阻断性错误：
当 PyTorch 版本低于 2.9.0 时，Python 能够导入 torch，但在初始化 CUDA 时抛出警告并导致后续计算失败：
UserWarning: NVIDIA GeForce RTX 5060 Ti with CUDA capability sm_120 is not compatible with the current PyTorch installation. The current PyTorch install supports CUDA capabilities sm_50 ... sm_90.
尝试强制安装 PyTorch 2.9.1 后，Unsloth 和 vLLM 的标准安装脚本因检测到版本'过新'（超出 pyproject.toml 定义的范围）而拒绝安装，或触发无限降级循环，试图将 PyTorch 回滚至 2.5.1。
由于自动安装脚本无法识别 cu128 或 torch290 等新标签，unsloth_zoo 未被下载，或 vLLM 缺少核心依赖库。
sm_120 的二进制内核。_auto_install.py) 在 2025 年 12 月尚未完全适配 PyTorch 2.9+ 的构建标签，导致无法自动拉取对应的 Wheels。警告： 请严格按照以下顺序执行。不要使用 poetry add，必须在 Poetry 虚拟环境中使用 pip 直接操作以绕过锁文件检查。
由于之前的尝试导致环境混杂了不同版本的二进制文件，必须彻底重建。
# 移除当前的 Python 环境
poetry env remove python
# 重新安装基础依赖（仅基于 pyproject.toml 中的最简配置）
poetry install
这是最关键的一步。必须显式指定 Index URL 并锁定版本。 (注：根据 2025 年 12 月的实际情况，cu124/cu126 仓库可能兼容 cu128 驱动)
poetry run pip install torch==2.9.1 torchvision==0.24.1 torchaudio==2.9.1 --index-url https://download.pytorch.org/whl/cu124
验证标准： 运行 python -c "import torch; print(torch.cuda.get_device_capability())"，必须输出 (12, 0) 或更高，且无 Warning。
由于自动脚本失效，需分别从 GitHub 源码安装主程序和组件库。
# 安装 Unsloth 主程序（跳过依赖检查）
poetry run pip install "unsloth[cu124-torch290] @ git+https://github.com/unslothai/unsloth.git"
# 关键：手动补全 Unsloth Zoo（解决 No module named 'unsloth_zoo'）
poetry run pip install "unsloth_zoo @ git+https://github.com/unslothai/unsloth_zoo.git"
标准安装会触发 PyTorch 降级。需采用 --no-deps 策略安装 vLLM 主程序，随后手动补全依赖链。
# 1. 强制安装 vLLM 主程序，不检查依赖
poetry run pip install vllm --no-deps
# 2. 手动补全 vLLM 所需的依赖树（忽略 Torch 版本冲突）
poetry run pip install fastapi uvicorn openai sentencepiece numpy<3 requests tqdm ray pandas prometheus-client prometheus-fastapi-instrumentator tiktoken protobuf pydantic py-cpuinfo cloudpickle diskcache jsonschema outlines partial-json-parser xgrammar blake3 gguf lark mistral-common msgspec ninja pyzmq scipy transformers>=4.57.0
运行以下 Python 脚本进行验收：
import torch
from unsloth import FastLanguageModel
import vllm
print(f"✅ PyTorch Version: {torch.__version__}")
print(f"✅ CUDA Capability: {torch.cuda.get_device_capability()}")
print(f"✅ Unsloth Loaded: True")
print(f"✅ vLLM Version: {vllm.__version__}")
输出： 验证输出显示 CUDA Capability 为 (12, 0)，PyTorch 版本正常。
初始化 Unsloth 时可能会出现以下红色报错：
ImportError: cannot import name 'DDPOStableDiffusionPipeline' from 'trl.models'
transformers/diffusers 库结构发生了微调。在 NVIDIA RTX 50 系列等次世代硬件上配置开发环境时，传统的依赖管理工具往往失效。通过解耦 PyTorch 的底层安装与上层应用库的依赖检查，并采用'源码构建'或'无依赖安装'的策略，可以在官方正式适配前通过'混合版本'方案成功运行训练任务。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online