云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
最佳实践概览
源服务器迁移至轻量应用服务器 服务器迁移中心支持将其他厂商轻量服务器（腾讯云轻量应用服务器、AWS Lightsail Instance和华为云云耀云服务器）迁移至阿里云轻量应用服务器。高可用架构 轻量应用负载均衡可以将公网访问的流量分发到后端的...
Apache配置多域名访问不同网站
步骤一：创建测试网站 如果您的多个网站代码已保存在服务器的网站根目录下，可以跳过本步骤。远程连接LAMP服务器。具体操作，请参见 通过控制台使用Workbench远程连接Linux服务器（推荐）。运行以下命令，进入网站根目录。轻量应用服务器的...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
配置用户标识
背景信息 如果您的服务器与日志服务属于不同账号的ECS实例、其他云厂商的服务器和自建IDC时，需要通过Logtail采集该服务器日志。首先，在服务器上安装Logtail，然后配置日志服务Project所属的阿里云账号ID为用户标识，授权该云账号通过...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
通过CCM跨集群部署服务
app:nginx type:LoadBalancer 说明 CCM会使用该CLB作为Service的负载均衡，并根据其他注解配置CLB，自动为CLB创建多个虚拟服务器组。CCM还提供了许多阿里云注解，支持丰富的负载均衡能力。更多信息，请参见 通过Annotation配置传统型负载...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
执行命令
多个服务器执行命令 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 命令助手。在 我的命令 页签下，在目标命令的 操作 列，单击 执行。在执行命令面板中，配置参数。在 命令信息 中查看命令内容、设置命令参数和设置执行用户。在 ...
配置共享GPU调度仅共享不隔离策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。本文以使用GPU卡V100为例进行说明。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点标签 单击，添加如下记录：键 为 ack.node.gpu.schedule，值...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
Service的负载均衡配置注意事项
CCM会使用该SLB作为Service的负载均衡，并根据其他annotation配置SLB，自动为SLB创建多个虚拟服务器组。当Service删除时，CCM不会删除您通过ID指定的已有SLB。CCM会根据Service的配置，自动创建和配置SLB、监听、虚拟服务器组等资源，所有...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
管理应用（适用于应用镜像）
当选择轻量应用服务器的应用镜像创建服务器后，您可以在控制台查看应用镜像中的预置的应用，并...例如，您可以基于LAMP环境部署Mantis开源缺陷跟踪系统、可以在同一台服务器上为多个网站分配不同的域名等。更多信息，请参见 最佳实践概览。
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
管理MSFE接入层集群
接入层版本变更 您可以对接入层服务器执行版本变更操作，若您需要变更单个或多个服务器的版本信息，可以执行灰度变更操作，若您需要一次变更所有服务器的版本信息，可以执行变更操作，具体操作如下。版本变更 单击目标单元页签，然后在 ...
自定义DNS服务器FAQ
如果您想使用自建DNS服务器进行域名解析，您需要先创建自己的DNS服务器。本文为您介绍有关自建DNS服务器的常见问题。什么是自定义DNS服务器？服务器名称如何填写？最多支持创建多少个DNS服务器？创建自定义DNS服务器支持IPv6地址吗？最多...
授权组管理
在 授权组：服务器/服务器组 对话框中，勾选一个或多个服务器/服务器组，单击 加入授权组。用户 选择已创建的授权组，单击 用户 栏中的数字。在 授权组：用户 对话框中，选择一个或多个用户，单击 加入授权组。凭据 选择已创建的授权组，...
基于NVMe共享盘部署集群文件系统
相较而言，块存储提供了支持NVMe协议的共享ESSD云盘，该云盘可以同时挂载在多个服务器实例上，且具备高可靠、高并发、高性能等特点。EBS的NVMe共享盘部署集群文件系统涉及一些概念说明，请参见 NVMe协议介绍。功能优势 NVMe和IP SAN在性能...
管理NLB监听
在 添加扩展证书 对话框中，选择单个或多个服务器证书，然后单击 确定。如果没有可选的服务器证书，您可以在右上角单击 购买证书 进入证书中心，在证书中心购买或上传服务器证书。更多信息，请参见 购买SSL证书 和 上传证书。删除扩展证书 ...
通过ALB Ingress实现混合挂载、跨地域挂载和本地IDC...
场景示例 如下图所示，ALB Ingress多服务器组转发动作，支持通过配置 ServiceName+ServicePort 创建或挂载多个后端服务器组，将请求转发至集群内多个Service。操作步骤 配置ALB Ingress。部署以下内容到 tea-ingress.yaml 文件中。在定义...
通过ALB Ingress实现混合挂载、跨地域挂载和本地IDC...
场景示例 如下图所示，ALB Ingress多服务器组转发动作，支持通过配置 ServiceName+ServicePort 创建或挂载多个后端服务器组，将请求转发至集群内多个Service。操作步骤 配置ALB Ingress。部署以下内容到 tea-ingress.yaml 文件中。在定义...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
管理快照
快照是某一时间点磁盘数据状态的备份文件，常用于日常数据备份、服务器数据误操作恢复、网络攻击恢复、制作自定义镜像等...创建完成的自定义镜像可用于共享到云服务器ECS或者创建相同配置的轻量应用服务器。更多信息，请参见 自定义镜像概述。
使用限制
位于中国内地地域，且购买时长在3个月以上（包含续费）的服务器，每个服务器最多可申请5个备案服务号。轻量应用服务器默认配置了一个公网IP，该公网IP不支持更换，服务器到期后不支持保留。轻量应用服务器目前不支持配置IPv6地址。如果轻量...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
使用自定义镜像创建轻量应用服务器失败
本文主要介绍使用自定义镜像创建轻量应用服务器失败的问题描述、问题原因及其解决方案。问题描述 在轻量应用控制台中，使用自定义镜像创建服务器失败。问题原因 不符合重置镜像的条件或者删除自定义镜像相关的资源。解决方案 检查是否满足...
计费常见问题
在轻量应用服务器中创建快照和自定义镜像都不收取费用，但存在以下限制：快照：每台轻量应用服务器最多可以创建3个快照。一个阿里云账号可创建的快照数量上限为已创建轻量应用服务器数量的3倍，但最多不超过15个。自定义镜像：一个阿里云...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
CreateSnapshot-创建快照
注意事项 单台轻量应用服务器最多可创建 3 个快照。一个阿里云账号可创建的快照数量上限为已创建的轻量应用服务器数量的 3 倍，但最多不超过 15 个。如果服务器到期释放，该服务器对应的快照会被清除。重置系统或更换镜像前创建的快照，在...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
挂载数据盘
如果在创建轻量应用服务器时未挂载数据盘，则服务器创建完成后，您也可以挂载数据盘。本文主要介绍如何在已创建的服务器中挂载数据盘。使用前须知 挂载数据盘前，您需要了解以下事项：一台轻量应用服务器实例只能挂载一块数据盘，如果创建...
- 产品推荐
- 这些文档可能帮助您