Stable Diffusion 3.5 FP8 简介
Stable Diffusion 3.5 FP8 是 Stability AI 发布的高性能优化版本，核心在于使用了 8 位浮点数（FP8） 来存储和计算模型权重。相比传统的 FP16（半精度），这直接将模型体积压缩近一半，同时借助现代 GPU 的张量核心实现推理加速。
实测数据显示，在 1024×1024 分辨率下：
- 显存占用从 ~14GB（FP16）降至 ~7.8GB（FP8）
- 推理时间缩短约 35%-40%
- 图像质量保持高度一致（SSIM > 0.98）
这意味着你不再需要租用昂贵的云服务器，也能在本地跑起专业级文生图 pipeline。对于个人开发者、小型团队甚至边缘设备部署而言，这是一个质的飞跃。
技术背后的逻辑
Stable Diffusion 本身是一个潜空间扩散模型，整个流程分为三步：文本编码 → 噪声预测 → 图像解码。FP8 并没有改变这个逻辑，而是在每一步的计算精度上做了精细化控制。
精度不是越高原越好
很多人误以为'精度越高，效果越好'，但在深度学习推理中，过高的精度反而是一种浪费。FP16 能表示的数值范围远远超过神经网络激活值的实际分布。FP8 正是基于这一点，采用 IEEE 754-2019 标准中的 E4M3 格式（4 指数位 + 3 尾数位），动态范围约为 ±448，恰好覆盖大多数激活值区间。
相比 INT8 量化容易导致的失真问题，FP8 保留了浮点格式的灵活性，避免了训练后量化常见的颜色偏移或细节丢失。而且它支持混合精度机制——关键层如注意力头仍可保留更高精度，确保稳定性。
实际运行时发生了什么？
当模型加载时，原始 FP16 权重会被转换为 FP8 格式并缓存在专用内存区；前向传播过程中，U-Net、VAE 和 CLIP 编码器都在 FP8 下执行矩阵运算，充分利用 NVIDIA 的 Tensor Cores 进行加速；为了防止数值溢出，系统会通过 AMAX 和 Scale Factor 动态调整缩放系数；最终输出阶段再恢复为 FP16 图像，保证视觉一致性。
这一切都由底层框架自动管理，比如 PyTorch 2.3+ 已原生支持 torch.float8_e4m3fn 类型，配合 Hugging Face Diffusers 库即可无缝集成。
💡 小贴士：如果你正在做模型服务化部署，建议结合 TensorRT-LLM 将 FP8 模型编译为
.plan文件。
本地配置步骤
以下步骤适用于 Windows/Linux/macOS，目标是让你在半小时内跑通第一个 FP8 生成任务。
第一步：环境准备
创建独立的 Python 虚拟环境，避免依赖冲突：
python -m venv sd35fp8-env
source sd35fp8-env/bin/activate # Linux/Mac
# 或
sd35fp8-env\Scripts\activate # Windows
升级 pip 并安装核心依赖。注意要选择与 CUDA 版本匹配的 PyTorch：
pip install --upgrade pip
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install diffusers transformers accelerate safetensors xformers
⚠️ 关键检查点：
- 确保
nvidia-smi可正常查看 GPU 状态；torch.cuda.is_available()返回True；- PyTorch 版本 ≥ 2.3，否则不支持 FP8 类型。
