👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>
背景信息
驱动GPU工作的硬件驱动程序。
上层应用程序所需要的库。
操作场景
手动安装GPU驱动和CUDA包时，必须确保驱动版本和CUDA包版本的兼容性，了解更多。
为方便使用，您可以在创建GPU实例时，选择支持自动安装或者预装了特定版本GPU驱动和CUDA的公共镜像，了解更多。
搭载A100/A800显卡的实例还需安装NVIDIA-Fabric Manager服务，否则将无法正常使用GPU实例。
前提条件
安装GPU驱动（Linux）
访问NVIDIA 驱动下载。
设置搜索条件，单击“查找”按钮查找符合条件的驱动版本。本文以Tesla T4安装CUDA 12.2对应的GPU驱动版本为例，如下图所示。
配置项 | 说明 | 示例 |
| 根据实例规格配备的GPU卡进行选择。详情请参见实例规格介绍。 |
|
操作系统 | 根据实例使用的镜像选择对应的Linux操作系统版本。 说明 操作系统选择Linux 64-bit即表示下载shell安装文件。如果选择具体的发行版本，则下载的文件是对应的包安装文件。 | Linux 64-bit |
CUDA Toolkit | 选择CUDA Toolkit版本。 | 12.2 |
语言 | 选择驱动对应的语言。 | Chinese (Simplified) |
选择特定的版本单击“查看”按钮。本文以下载535.216.03版本为例，如下图所示。
在驱动下载页面，右键单击“下载”按钮，在弹出的菜单中选择“复制链接地址”。
登录GPU实例。
使用wget命令，粘贴步骤4中已获取的链接地址，下载安装包（需要GPU实例能访问外网）。例如：
wget https://cn.download.nvidia.com/tesla/535.216.03/NVIDIA-Linux-x86_64-535.216.03.run
（条件必选） 若您的实例使用“veLinux 1.0 CentOS兼容版 with 5.10 kernel”或“veLinux 1.0 CentOS兼容版”镜像，需执行以下命令，修改GNU编译器套件（GNU Compiler Collection，GCC）的默认版本。
source /opt/rh/devtoolset-8/enable
执行sh命令，运行驱动安装程序，并按提示进行后续操作。
sh NVIDIA-Linux-x86_64-535.216.03.run
安装完成后，执行以下命令进行验证。
nvidia-smi
安装GPU驱动（Windows）
登录Windows实例。
在远程桌面中，通过浏览器访问NVIDIA 驱动下载。
设置搜索条件，单击“查找”按钮查找符合条件的驱动版本。本文以Tesla T4安装CUDA 11.4对应的GPU驱动版本为例，如下图所示。
选择特定的版本单击“查看”按钮。本文以下载472.50版本为例，如下图所示。
单击“下载”按钮，下载驱动。
依次单击“运行”和“查看下载”按钮，待下载完成后单击“OK”按钮并按提示完成安装。
安装完成后，在桌面单击右键，可以看到“NVIDIA控制面板”程序，单击后选择控制面板左下角的“系统信息”按钮，可以查看驱动版本。
