在Debian上搭建PyTorch的CUDA环境，是很多做深度学习开发的人绕不开的一步。相比Ubuntu，Debian的软件源里NVIDIA驱动和CUDA相关包的更新节奏偏慢，安装方式也更多样，导致不少人在这一步反复踩坑：要么驱动装不上，要么PyTorch装好了却检测不到GPU，要么训练时报cuDNN相关的错误。本文把整套流程拆开来讲，从驱动安装、CUDA版本选择到PyTorch安装和验证，一步步给出可直接执行的命令。
一、安装前的准备：确认显卡和系统状态
动手之前，先搞清楚三件事：显卡型号、Debian版本、内核版本。这三者直接决定了后续安装路径。先用lspci查看显卡硬件信息：
lspci | grep -i vga lspci | grep -i nvidia
如果输出里能看到NVIDIA的设备条目，说明系统能识别到显卡。接着确认系统版本和内核：
cat /etc/debian_version uname -r
这里有个容易被忽视的坑：Debian stable分支的内核版本较旧，而NVIDIA驱动对内核版本有要求。如果用的是非常老的Debian 10或更早版本，建议先升级到Debian 11或12，否则后面编译驱动模块时大概率会失败。另外，如果你的显卡是较新的RTX 40系列，需要驱动版本525以上才能完整支持，这一点在Debian老版本里几乎是拿不到的。
还要检查一下是否已经装过驱动或者残留了旧的安装包。可以用nvidia-smi测试，如果命令存在且能输出显卡状态，说明驱动已经就位；如果报命令不存在，那就是还没装。如果之前用.run文件装过驱动又卸载不干净，建议先用sudo /usr/bin/nvidia-uninstall清理残留，避免和包管理器安装的版本冲突。
二、安装NVIDIA驱动和CUDA Toolkit
Debian安装NVIDIA驱动主要有两条路：用Debian官方仓库的nvidia-driver包，或者从NVIDIA官网下载.run安装包。绝大多数情况下推荐前者，原因很简单——仓库版本会跟随内核自动更新，内核升级后驱动模块会自动重新编译，不用你手动操心。安装命令如下：
sudo apt update sudo apt install nvidia-driver firmware-misc-nonfree sudo reboot
重启后执行nvidia-smi，如果能看到显卡型号、驱动版本和CUDA Version字样，说明驱动装好了。注意nvidia-smi右上角显示的CUDA Version是当前驱动支持的最高CUDA版本，并不代表系统里已经装了CUDA Toolkit。
接下来是CUDA Toolkit。这里有个关键认知：通过pip安装的PyTorch自带CUDA运行时库，严格来说你不需要单独装CUDA Toolkit也能跑GPU训练。只有当你需要自己编译CUDA算子、编译其他依赖CUDA的扩展时，才需要完整的Toolkit。如果确实需要，可以从NVIDIA官网下载对应Debian版本的安装包，或者使用runfile方式：
# 下载后执行（以11.8为例，具体文件名以官网为准） sudo sh cuda_11.8.0_520.61.05_linux.run --toolkit --silent # 配置环境变量 echo 'export PATH=/usr/local/cuda-11.8/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc
安装完用nvcc -V验证编译器版本。要特别提醒一点：驱动版本必须大于等于CUDA Toolkit要求的最低版本，比如CUDA 12.1要求驱动530以上，版本不匹配的话nvcc能装上，但运行时会报错。
三、安装GPU版PyTorch并验证
驱动就绪后，安装PyTorch本身反而最简单。推荐用pip方式，去PyTorch官网查询对应的安装命令，指定CUDA版本号：
# 安装CUDA 12.1版本的PyTorch pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
这里最容易犯的错误是直接执行pip3 install torch，这样装到的默认是CPU版本，训练速度会慢几十倍，而且不会报任何错。判断装的是不是GPU版本，安装时看包名后缀即可，GPU版会带有cu121这类字样。如果之前误装了CPU版，先pip3 uninstall torch卸载干净再重装，两个版本共存会导致不可预测的行为。
装好后务必验证，用一段简短代码检查CUDA是否真正可用：
import torch
print("PyTorch版本:", torch.__version__)
print("CUDA是否可用:", torch.cuda.is_available())
print("设备数量:", torch.cuda.device_count())
if torch.cuda.is_available():
print("设备名称:", torch.cuda.get_device_name(0))
# 做一次真实的GPU张量运算
x = torch.rand(1000, 1000).cuda()
y = x @ x
print("GPU矩阵运算成功:", y.shape)如果所有输出都正常，说明整套环境已经打通。如果torch.cuda.is_available()返回False，按下面的思路排查：第一，执行nvidia-smi确认驱动正常；第二，检查PyTorch编译时的CUDA版本是否超出驱动支持范围，比如驱动显示支持CUDA 11.4，却装了cu121的PyTorch，这种不匹配就会导致检测失败，解决办法要么升级驱动，要么换装cu118甚至更低版本的PyTorch；第三，确认没有同时安装多个冲突的PyTorch版本。
关于cuDNN，同样不需要单独安装，pip版的PyTorch已经把cuDNN库打包进去了。只有在源码编译PyTorch的场景下才需要手动装cuDNN并配置CUDNN_HOME环境变量。最后建议跑一次实际训练任务，用watch -n 1 nvidia-smi观察显存占用和GPU利用率，如果训练时GPU利用率能上去，环境搭建就算彻底完成了。