部署GPU云服务器
GPU实例作为云服务器ECS的一...后续验证 部署完成后，单击GPU云服务器实例名称跳转到ECS控制台，通过Workbench远程连接GPU实例。可以看到AIACC-Training、AIACC-Inference已经安装完成。执行以下命令，确认NVIDIA 驱动已安装完成。nvidia-smi
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
卸载GRID驱动
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Windows实例。单击Windows桌面左下角 图标，然后单击 控制面板。在 控制面板 中，选择 程序>卸载程序。右键单击需要卸载的GRID驱动（例如 NVIDIA 图形驱动程序 432.44），然后...
在GPU虚拟化型实例中安装GRID驱动（Linux）
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Linux实例。执行以下命令，查看GRID驱动是否安装成功。nvidia-smi 回显结果显示如下，表示已成功升级或安装GRID驱动。测试验证 本文以Ubuntu 18.04 64位操作系统为例，使用GLX...
在GPU实例（计算型和虚拟化型）中安装GRID驱动...
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Windows实例。在桌面空白处，右键单击并打开 NVIDIA 控制面板。显示结果如下所示，表示安装的新GRID驱动已生效。相关文档 如果您购买了Linux系统的GPU虚拟化型实例，安装GRID驱动...
GPU云服务器
GPU云服务器提供GPU加速计算能力，实现GPU计算资源的即开即用和弹性伸缩。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力与CPU计算力，满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求。
在GPU实例上部署eRDMA容器镜像
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Linux实例。安装Docker环境。执行以下命令，在Ubuntu系统上安装Docker的官方GPG密钥。sudo apt-get update sudo apt-get install ca-certificates curl-y sudo install-m 0755-d/...
升级Tesla或GRID驱动
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Windows实例。在登录页面空白处，右键单击并打开 NVIDIA 控制面板。显示结果如下所示，表示安装的新GRID驱动已生效。升级GRID驱动（Linux）适用实例 仅以下Linux GPU实例规格族...
卸载Tesla驱动
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Windows实例。单击Windows桌面左下角 图标，然后单击 控制面板。在 控制面板 中，选择 程序>卸载程序。右键单击待卸载的Tesla驱动（例如 NVIDIA 图形驱动程序 472.50），然后单击...
什么是GPU云服务器
为什么选择GPU云服务器 阿里云GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供比CPU高百倍的计算能力。GPU的功能特性如下：拥有大量擅长...
在GPU实例上配置eRDMA
远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Linux实例。（条件必选）部分镜像可能无法自动识别新绑定的辅助弹性网卡，您需要在实例内配置辅助弹性网卡。您可以执行 ifconfig 命令查看新绑定的辅助弹性网卡。如果显示新绑定...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
阿里云客户端概述
您可以在本地安装阿里云客户端（Alibaba Cloud Client），高效、便捷地统一管理和使用账号下的资源（云服务器ECS、弹性容器实例ECI、轻量应用服务器和阿里云托管实例），进行浏览、查找、远程连接等操作。本客户端目前支持在Windows、Mac x...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
通过SFTP/SCP上传或下载文件（本地主机为Linux或macOS...
SFTP 命令 上传或下载 文件/文件夹 在终端上远程连接云服务器ECS。sftp[云服务器登录名]@[云服务器公网IP地址]上传或下载文件/文件夹。上传文件/文件夹到云服务器ECS put-r 本地主机文件/文件夹的绝对路径 云服务器文件保存根目录#下载文件...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
远程连接FAQ
远程连接Windows服务器时，提示“没有远程桌面授权服务器可以提供许可证”如何处理？具体解决方案，请参见 通过远程桌面连接Windows实例提示“没有远程桌面授权服务器可以提供许可证”错误怎么办？远程连接Windows服务器失败，且服务器无...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
通过WinSCP上传或下载文件（本地主机为Windows）
如果您的本地主机为Windows操作系统，可以通过WinSCP工具远程连接Linux系统的ECS，并进行文件上传或下载。什么是WinSCP？WinSCP可以实现在本地与远程计算机之间安全地复制文件。与使用FTP上传代码相比，通过WinSCP可以直接使用服务器账户...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
无法远程连接ECS实例
如何远程连接ECS实例 云服务器ECS支持通过多种方式连接实例，包括Workbench、VNC和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、需要执行的操作等因素，选择合适的方式远程连接ECS实例。具体操作，请参见 ...
API简介
欢迎您选择云服务器ECS（Elastic Compute Service），如果您熟悉网络服务协议和一种以上的编程语言，推荐您...云助手 CommandId 云服务器ECS的原生运维部署服务，无需远程连接实例，云助手便能帮您自动批量执行Bat、PowerShell或者Shell命令。
远程连接方式概述
远程连接方式对比 Workbench、VNC和其他第三方客户端工具对比如下表所示。对比项目 Workbench VNC 第三方客户端工具 实例开启SSH等服务 必需 可选，因此可以用于排查SSH服务异常等异常，例如SSHD服务被关闭。必需 控制台一键登录 支持 支持...
创建ECS跳板机
本文描述了用户如何创建用于访问专属VMware环境的云服务器ECS跳板机。前提条件 完成专属VMware环境创建，详细过程请参见 创建实例。任务 创建云服务器ECS跳板机-Windows操作系统。操作步骤 访问专属VMware环境的VMware管理组件如vCenter、...
远程连接Linux服务器
您可以通过轻量应用服务器管理控制台或者第三方客户端工具远程连接Linux服务器。本文主要介绍如何远程连接Linux服务器。前提条件 待连接的Linux轻量应用服务器的状态为 运行中。如果您需要使用密码的方式远程连接服务器，确保已设置服务器...
通过阿里云客户端管理ECS实例
阿里云客户端支持对云服务器ECS、弹性容器实例ECI、轻量应用服务器和阿里云托管实例进行浏览查询、远程连接等功能。本文为您介绍通过阿里云客户端查看和管理ECS实例的方法，主要包括查看ECS实例、远程连接ECS实例、重置ECS实例密码和管理...
使用VNC登录实例
无法使用Workbench和远程连接软件（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可安全...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
使用SSH远程连接Linux实例失败
问题描述 使用VNC远程连接Linux实例正常，但是使用SSH远程连接Linux实例失败。问题原因 在/etc/sshd_config 文件中 AllowUsers 参数的值为空，导致SSH远程连接Linux实例失败。解决方案 说明 如果您对实例或数据有修改、变更等风险操作，...
Winodws远程连接服务器时如何映射本地电脑磁盘
概述 Winodws远程连接服务器时如何映射本地电脑磁盘。详细信息 打开电脑左下方 开始>所有程序>附件>远程桌面连接，连接服务器时勾选本地磁盘映射，如下截图所示。然后输入 服务器IP，账号密码，登录到服务器后打开我的电脑，可以看到本地的...
- 产品推荐
- 这些文档可能帮助您