什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
什么是Deepytorch
Deepytorch是阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。在训练方面，Deepytorch在保障精度的前提下实现端到端训练性能的显著提升，可降低训练成本，提升迭代速度。在推理方面，Deepytorch通过即时编译技术对...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
什么是AI分布式训练通信优化库AIACC-ACSpeed
上图中，GPU0~GPU3或者GPU4~GPU7的各卡之间相互通过PCIe Bridge连接（PIX），而GPU0到GPU4~GPU7、GPU1到GPU4~GPU7、GPU2到GPU4~GPU7、GPU3到GPU4~GPU7之间需要通过socket之间的QPI/UPI接口连接（SYS）。优化方法 在原生NCCL通信库中，默认...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
基本概念
服务器迁移 可将服务器、虚拟机、云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。更多信息，请参见 各源环境迁移至阿里云。VMware无代理迁移 通过VMware Agentless无侵入式迁移技术，可将VMware虚拟机的业务迁移到阿里云，提高...
常见问题
阿里云云安全中心结合阿里云云计算平台强大的数据分析能力，为您提供一站式安全服务，例如安全漏洞检测、网页木马检测、面向云服务器用户提供的主机入侵检测和防御DDoS流量攻击等。更多安全服务，请查看 安全产品 页面。如何检测服务器是否...
最佳实践概览
服务器迁移中心SMC功能强大、优势明显，能够实现方便快捷的迁移服务器，更多信息，请参见 什么是服务器迁移中心。场景介绍 服务器迁移中心提供了以下场景迁移的最佳实践：场景 场景说明 各源环境迁移至阿里云 SMC支持多种Windows以及Linux...
服务器迁移指引
服务器迁移中心SMC（Server Migration Center）是阿里云自主研发的迁移平台，可将您的单台或多台源服务器迁移至阿里云上。SMC概述 服务器迁移中心SMC（Server Migration Center）能够将单台或多台源服务器迁移至阿里云上。源服务器包括IDC...
私网传输迁移
（推荐）创建阿里云云服务器ECS服务器。建议您使用CentOS 7及以上版本的ECS，具体操作，请参见 自定义购买实例。ECS默认能连接SMC的私网域名，只需确认以下域名能访问即可。例如：杭州地域的激活码为...
新功能发布记录
2023-09-08 配置迁移演练 迁移演练项说明 轻量服务器迁移 SMC支持将其他厂商轻量服务器（腾讯云轻量应用服务器、AWS Lightsail Instance和华为云云耀云服务器）迁移至阿里云轻量应用服务器。2023-09-08 创建服务器迁移任务 源服务器迁移至...
常见问题
如果您的ECS实例的网络类型是VPC网络，迁移源默认会显示在 阿里云ECS云服务器 页签下。我在什么场景下使用服务器迁移？SMC可将待迁移物理服务器、虚拟机以及其他云平台云主机一站式地迁移到阿里云ECS，支持迁移主流Windows和Linux操作系统...
配置共享GPU调度cGPU算力调度策略
关于cGPU的更多信息，请参见 什么是GPU容器共享技术cGPU。前提条件 已创建ACK Pro版集群，且集群的Kubernetes版本≥1.18.8。关于Kubernetes的升级操作，请参见 升级ACK集群。cGPU版本≥1.0.6。关于cGPU的升级操作，请参见 升级节点cGPU版本...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
本地盘最佳实践
详情请参见 什么是云备份。方式二：搭建冗余架构 搭建多节点冗余数据架构，降低本盘故障带来的影响。您可以购买云盘，并将本盘数据实时拷贝到云盘；或者，在其他可用区或地域购买ECS实例并部署应用作为灾备。使用部署集提高可用性 为保证...
步骤二：创建RHEL镜像
您也可以使用阿里云提供的服务器迁移中心SMC创建和导入虚拟镜像，更多信息，请参见 什么是服务器迁移中心。步骤4：创建虚拟镜像 在RHEL虚拟机菜单上，选择 View>Snapshots。单击+图标并创建快照。在创建快照后，将创建虚拟机镜像。虚拟机...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
微软许可证与软件保障
更多信息，请参见 弹性裸金属服务器概述 和 什么是专有宿主机DDH。重要 为了满足合规要求，许可证必须于2019年10月01日前获取，同时操作系统版本的发布时间必须早于2019年10月01日。您可以在弹性裸金属服务器或专有宿主机中部署微软产品...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
什么是集群极速部署工具FastGPU
FastGPU介绍 FastGPU作为衔接您的线下人工智能算法和线上阿里云海量GPU计算资源的关键一环，方便您将人工智能计算任务构建在阿里云的IaaS资源上。使用FastGPU构建人工智能计算任务时，您无需关心IaaS层的计算、存储、网络等资源部署操作，...
地域和可用区
本文介绍阿里云地域和可用区的概念、选择指导、两者的关系以及阿里云支持的地域和可用区列表。地域 概念 地域指数据中心所在的地理区域，通常按照数据中心所在的城市划分。例如，华北1（青岛）地域表示数据中心所在的城市是青岛。如何选择...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
新手指引
什么是轻量应用服务器 轻量应用服务器的产品优势 轻量应用服务器的应用场景 轻量应用服务器支持的镜像 轻量应用服务器的使用限制 轻量应用服务器与云服务器ECS对比 快速使用流程 轻量应用服务器快速使用流程如下图所示。准备工作 您需注册...
共享GPU调度
进一步了解，请参见：关于什么是共享GPU调度，请参见 共享GPU调度概述。关于如何开启共享GPU调度专业版，请参见 安装共享GPU调度组件。关于如何使用共享GPU调度专业版，请参见 运行共享GPU调度示例、通过共享GPU调度实现多卡共享。若ACK...
GPU调度概述
想进一步了解：关于什么是共享GPU调度，请参见 共享GPU调度概述。关于如何开启共享GPU，请参见 安装共享GPU组件；关于如何关闭共享GPU显存隔离能力，请参见 关闭共享GPU显存隔离能力。关于如何使用共享GPU调度，请参见 运行共享GPU示例、...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
访问ECS实例异常时的问题排查和指引
ECS云服务器访问异常问题排查流程图 对于ECS访问异常问题，基本排查思路如下ECS服务器访问异常问题排查流程图所示。ECS访问异常问题排查思路及处理办法 对于ECS访问异常问题，排查思路分为如下两个方面：通过私网访问异常时排查思路 如果...
- 产品推荐
- 这些文档可能帮助您