云主机怎么设置显卡？

在云主机（云服务器）上设置显卡，与在物理机上插入一块显卡有本质区别，云主机上的“显卡”实际上是通过虚拟化技术分配的虚拟 GPU（vGPU） 或直通 GPU（GPU Passthrough） 资源。

核心流程是：选购带GPU的云服务器实例 -> 配置并创建实例 -> 连接实例并安装驱动，您无法在普通云主机上“凭空”变出或启用一块显卡。

以下是详细的设置步骤和注意事项：

第一步：选择支持GPU的云服务商和实例类型

这是最关键的一步，您必须从云服务商提供的大量实例类型中，选择明确标注带有GPU 的型号。

主流云服务商的GPU实例类型示例：

1、阿里云：

GPU计算型如gn6i,gn6e,gn7i 等，通常配备NVIDIA T4、V100、A10等显卡，适用于深度学习训练/推理、图形渲染。

GPU可视化型如ga1,g6e 等，配备GRID虚拟化GPU，专为云桌面、图形工作站、3D设计打造。

2、腾讯云：

GPU计算型如GN10Xp（V100），GN7（T4），GN8（P40）等。

GPU渲染型如GA2（A10）， 针对图形加速和视频编解码优化。

3、亚马逊AWS：

P4/P3系列搭载最新的NVIDIA A100、V100 Tensor Core GPU，用于高性能计算和AI。

G4/G3系列搭载T4或M60 GPU，适用于机器学习推理和图形应用程序。

4、华为云：

G系列如pns（A100），pi2（V100），p2v（T4）等。

选择要点：

显卡型号根据需求选择，T4适合推理和轻量训练，V100/A100适合大规模训练，A10/GRID适合图形工作站。

显存大小模型或场景越复杂，需要显存越大。

vCPU和内存配比确保与GPU性能匹配，避免瓶颈。

第二步：创建并配置GPU云主机

1、登录云控制台，进入云服务器ECS/EC2的购买或创建页面。

2、在“实例规格”或“节点类型”中，筛选出GPU实例。

3、选择镜像（操作系统）：

公共镜像云服务商通常提供预装GPU驱动和CUDA工具包的特定镜像（如“GPU加速镜像”、“Ubuntu 20.04 with CUDA 11”）。强烈建议初学者选择这类镜像，可省去后续安装驱动的复杂步骤。

自定义镜像如果您熟悉，也可以选择纯净版系统（如Ubuntu、CentOS），然后手动安装所有驱动。

4、配置存储、网络、安全组：根据需求设置系统盘、数据盘、公网IP等。安全组规则需要开放远程连接端口（如SSH的22，RDP的3389）以及您应用可能需要的端口。

5、完成购买并启动实例。

第三步：连接实例并验证/安装GPU驱动

1、远程连接：通过SSH（Linux）或远程桌面RDP（Windows）连接到您的GPU云主机。

2、验证GPU（如果使用预装驱动镜像）：

Linux系统打开终端，输入命令nvidia-smi，如果看到显卡信息、驱动版本和CUDA版本，说明GPU驱动已正确安装并识别。

Windows系统打开“设备管理器”，查看“显示适配器”下是否有NVIDIA GPU，或下载安装NVIDIA官方控制面板查看。

3、手动安装驱动（如果使用纯净版镜像）：

Linux（以Ubuntu为例）

连接网络，更新系统sudo apt update && sudo apt upgrade -y

安装基础依赖sudo apt install build-essential

前往[NVIDIA官网](https://www.nvidia.com/Download/index.aspx)根据您的GPU型号和操作系统下载对应的驱动，或者使用云服务商推荐的特定版本驱动（通常在文档中提供）。

* 禁用系统自带的nouveau驱动，然后运行下载的.run文件进行安装。

* 安装完成后，重启并运行nvidia-smi 验证。

Windows

* 通过远程桌面连接后，像物理机一样，从NVIDIA官网下载对应的桌面版或数据中心版驱动安装程序，直接安装即可。

第四步：安装CUDA和cuDNN（针对AI/深度学习）

如果您的用途是深度学习，完成驱动安装后，还需要：

1、安装CUDA工具包：从[NVIDIA CUDA官网](https://developer.nvidia.com/cuda-toolkit-archive)下载与您驱动版本兼容的CUDA版本，推荐使用runfile或云服务商推荐的包管理器方式安装。

2、安装cuDNN库：在NVIDIA开发者网站下载与CUDA版本匹配的cuDNN，按照指南解压并复制文件到CUDA目录。

注意预装的GPU镜像通常已经包含了CUDA和cuDNN。

重要注意事项

1、成本：GPU云主机价格昂贵，通常是普通主机的数倍甚至数十倍，请根据需求选择，并务必在不使用时及时关机或释放实例，以免产生高额费用（按量计费模式下，关机不收费但可能收存储费；彻底释放才停止计费）。

2、兼容性：确保您要运行的软件（如TensorFlow, PyTorch, Blender, 视频编码器）与云主机上的GPU型号、驱动版本、CUDA版本兼容。

3、虚拟化与直通：大部分公有云提供的是vGPU（分片虚拟化）或直通GPU（整卡独占），对于高性能计算和深度学习，直通模式性能损失更小。

4、查看文档：不同云服务商的配置细节略有不同，遇到问题时，第一选择是查阅该云服务商的官方GPU实例文档。

需求分析（需要什么GPU） -> 选购GPU实例（选规格、选预装驱动的镜像） -> 创建并连接 -> 运行nvidia-smi 验证 -> 开始使用（或继续安装CUDA等）

遵循以上步骤，您就可以成功在云主机上设置并使用“显卡”了。

文章摘自：https://idc.huochengrm.cn/zj/24160.html