异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
基于eRDMA增强型实例部署AI训练集群
方式1 通过ECS实例启动AI训练 搭建GPU环境 GPU云服务器提供GPU加速计算能力，实现GPU计算资源的即开即用和弹性伸缩。更多信息，请参见 什么是GPU云服务器。在 步骤一：创建eRDMA实例 时，配置镜像时需按以下步骤配置：选择所需的操作系统及...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
方案优势 使用GPU云服务器可快速搭建自然语言训练环境。使用极速型NAS可提供强大的存储和共享训练数据的性能。使用AIACC-Training（AIACC训练加速）工具可有效加快模型的训练速度。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
第三方教程
本文提供了轻量应用服务器在不同场景下的...轻量应用服务器快速建站指南 使用轻量应用服务器搭建博客环境 部署应用 在轻量应用服务器上部署SpringBoot项目 使用轻量应用服务器部署Hadoop云集群 基于轻量应用服务器+OSS的中小型应用运维实践
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
LoginInstance-远程登录实例
接口说明 创建轻量应用服务器后，您可以远程登录轻量应用服务器，在服务器上搭建环境、搭建应用等。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 ...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
HaaS EDU K1 快速开始
更正文档 具体操作分为三步：搭建开发环境 创建工程 开发及调试 1.搭建开发环境 详细步骤请参考 搭建开发环境 2.创建工程 详细步骤请参考 创建工程 3.开发及调试 3.1 编译工程 详细步骤请参考 编译 3.2 烧录镜像 如下图，先用数据线把HaaS...
概述
下载文件说明如下：Table/SQL类型：TableJobKafka2Rds.java Datastream类型：DataStreamJobKafka2Rds.java 搭建基础环境 为了快速跟您展示作业迁移过程，我们利用 云速搭CADT 产品，来搭建一个基础迁移环境，来演示三种场景的自建Flink作业...
PAI-TF概述
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种...
云服务使用限制索引
弹性计算 云服务 使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器...
最佳实践概览
源服务器迁移至轻量应用服务器 服务器迁移中心支持将其他厂商轻量服务器（腾讯云轻量应用服务器、AWS Lightsail Instance和华为云云耀云服务器）迁移至阿里云轻量应用服务器。高可用架构 轻量应用负载均衡可以将公网访问的流量分发到后端的...
备案域名
根据上述政策规定，为了保证网站能够正常访问，您在中国内地地域的轻量应用服务器搭建网站和完成域名解析后，必须完成ICP备案后才可对外提供服务。更多信息，请参见 什么是ICP备案。备案须知 非中国内地地域的轻量应用服务器不需要备案。...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
创建弹性裸金属服务器实例
背景信息 创建弹性裸金属服务器实例和创建普通云服务器实例的步骤类似，本文仅介绍弹性裸金属特有的基本配置项，如果您想了解其他通用配置，请参见 自定义购买实例。操作步骤 登录 ECS管理控制台。在左侧导航栏，选择 实例与镜像>实例。...
sccgn系列实例使用说明及验证
为进一步优化神龙架构GPU服务器的网络性能，阿里云推出了GPU计算型超级计算集群实例规格族，即sccgn系列实例，该系列机型具备了超强的计算能力和网络通信能力。本文为您介绍sccgn系列实例的使用说明及性能验证。使用说明 sccgn系列机型同时...
智能语音唤醒
HaaS EDU K1 DEMO 代码下载 开发环境的搭建请参考《AliOS Things集成开发环境使用说明之搭建开发环境》，其中详细的介绍了AliOS Things 3.3的IDE集成开发环境的搭建流程。本案例的代码下载请参考《AliOS Things集成开发环境使用说明之创建...
自助诊断GPU节点问题
根据 nvidia-smi 状态排查问题 nvidia-smi（NVIDIA System Management Interface）是一个监测NVIDIA GPU设备状态的命令行实用工具，可以用于管理GPU服务器性能和健康状况。您可以根据检查报告中 NVIDIASMIStatusCode 的结果，参见下表，...
实验室概述
通过实验室，您可以快速一键搭建数据库、部署开发环境等，体验EBS的一些新特性（ESSD云盘的16K原子写能力、快照无代理的数据备份等）在各业务场景中的表现。同时，您还可以参考实验手册的手动部署方式，在生产环境中搭建数据库、部署开发...
将本地服务器环境制作成镜像保存到云盒本地OSS
如果您想要将本地服务器环境制作成自定义镜像，以便在云盒内批量部署环境、备份服务器数据等，您可以通过SMC来迁移本地服务器到阿里云云盒，迁移时基于本地服务器环境制作的镜像可以保存到云盒OSS中，实现数据在本地闭环。背景信息 服务器...
代理接入
适用场景 无法直连云安全中心的阿里云VPC 如果您的阿里云VPC做了较多访问限制，无法直接连接云安全中心服务端，您可以选择代理接入的方式，将云服务器ECS接入云安全中心进行防护。线下IDC机房 混合云 使用限制 仅Linux服务器可以作为代理...
使用EAIS实例部署ChatGLM2-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
动手实践
} 快速入门 云服务器ECS 云服务器ECS新手上路 ECS 建议实验时长：1小时 开始体验 Linux云服务 快速配置Linux云服务器 ECS 建议实验时长：1小时 开始体验 部署环境 LNMP环境 快速搭建LNMP环境 ECS 建议实验时长：1小时 开始体验 LAMP环境...
- 产品推荐
- 这些文档可能帮助您