如何安装 cuDNN 和 TensorRT 提升Stable Diffusion 的推性能

如何通过 cuDNN 和 TensorRT 提升 NVIDIA 40 系显卡在 Stable Diffusion 中的推理性能

NVIDIA 的 40 系显卡在运行 Stable Diffusion 时，可以通过启用 cuDNN 和 TensorRT 技术来显著提高推理性能。通过这些工具的优化，特别是针对 NVIDIA 新一代 GPU 的加速，能够带来高达 2 倍以上 的推理速度提升。本文将带你了解这两项技术如何工作，以及如何在你的系统中配置它们。

为什么 cuDNN 和 TensorRT 能够提升性能？

1. cuDNN（CUDA Deep Neural Network Library）
   cuDNN 是 NVIDIA 提供的深度学习加速库，专门用于优化深度神经网络（DNN）的推理和训练。在 Stable Diffusion 中，cuDNN 主要加速卷积神经网络（CNN）的计算，从而减少推理时间并提高效率。

2. TensorRT
   TensorRT 是 NVIDIA 专为推理优化而设计的深度学习加速库。它通过量化（如减少 FP16 精度计算或采用 INT8 量化）和其他技术对模型进行优化，从而显著加速图像生成等任务。在 Automatic1111 Web UI 的最新版本中，已经集成了对 TensorRT 的支持，用户可以轻松启用这一加速功能。

如何配置 cuDNN 和 TensorRT 提升性能？

1. 安装 cuDNN

cuDNN 是 NVIDIA 提供的 GPU 加速库，专为加速深度学习任务设计，包括 Stable Diffusion。如果你当前的 Stable Diffusion Web UI 版本没有启用最新的 cuDNN 加速库，手动安装并更新 cuDNN 会大幅提升性能。

安装步骤：

1. 访问 NVIDIA 官网 下载与你的 CUDA 版本匹配的 cuDNN 库。
2. 解压下载的文件，将其中的 bin、include 和 lib 文件夹中的内容复制到 CUDA 安装目录下（通常是 /usr/local/cuda）。Windows 用户直接使用 exe 文件进行安装即可。
3. 完成后，重新启动系统以确保新库生效。

2. 启用 TensorRT 优化

TensorRT 通过针对 RTX GPU 的优化加速推理过程，在 Stable Diffusion 中表现尤为突出，最多可提升 2 倍 的推理速度。

安装 TensorRT 扩展：

1. 打开 Stable Diffusion Web UI。
2. 转到 Extensions 标签页，点击 Install from URL。
3. 输入以下 URL 安装 TensorRT 扩展：

txt
https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT

4. 安装完成后，点击 Apply and restart UI。

配置 TensorRT：

1. 在 Web UI 主页顶部，你会看到新增的 TensorRT 选项。
2. 进入 Settings，选择 User Interface，并在 Quick Settings List 中添加 sd_unet。
3. 返回主界面，选择 sd_unet 选项为 Automatic。
4. 你还可以在 TensorRT 标签页中生成特定分辨率和批量大小的优化引擎，以进一步提高性能。

性能提升测试

• 在使用 TensorRT 优化后，RTX 4060 Ti 的推理速度在 512x512 和 768x768 分辨率下大约能够提升 1 倍，使得批量生成图像变得更加高效。对于追求高效图像生成的用户而言，这项优化非常有价值。

总结

如果你正在使用 NVIDIA 40 系显卡（如 RTX 4060 Ti），并希望提升 Stable Diffusion 的生成速度，启用 cuDNN 和 TensorRT 扩展是提升性能的有效方式。这些优化不仅能显著提高推理速度，还能充分发挥显卡的潜力，特别适合需要处理大量图像生成任务的用户。

如果你需要更详细的教程，参考以下链接：

• Puget Systems 官方教程
• Civitai 的教程
• NVIDIA GitHub 页面