云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，...涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU 云服务器》最佳实践
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
安装共享GPU调度组件
ACK Pro集群的实例规格架构设置为 GPU云服务器。其他配置，请参见 创建ACK集群Pro版。已获取集群KubeConfig并通过kubectl工具连接集群。使用限制 请勿将共享GPU调度的节点的CPU Policy设置为 static。cGPU服务的隔离功能不支持以UVM的方式...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
管理时间同步服务
请先确认您的服务器的网络类型，请根据对应的网络类型选择对应的NTP服务器地址。关于NTP服务器地址请参见 阿里云NTP服务器地址列表。其中公网NTP服务器地址面向整个互联网，时间准确性和稳定性不及内网的NTP服务器地址。网络类型为专有网络...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
如何查看服务器类型？
方式一：使用浏览器开发者工具查看服务器类型 使用浏览器访问您的域名。按F12，打开开发者工具，按照下图指引查看服务器类型。方式二：使用命令方式查看服务器类型 登录您的服务器。在您的服务器输入以下命令查看服务器类型。curl-i说明是...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
sccgn系列实例使用说明及验证
为进一步优化神龙架构GPU服务器的网络性能，阿里云推出了GPU计算型超级计算集群实例规格族，即sccgn系列实例，该系列机型具备了超强的计算能力和网络通信能力。本文为您介绍sccgn系列实例的使用说明及性能验证。使用说明 sccgn系列机型同时...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
经典网络的IP
您可以将一台经典网络类型的实例连接到专有网络VPC中，实现经典网络类型的实例与VPC中的云资源私网互通。以下是调用API接口的操作指引：AttachClassicLinkVpc：将经典网络类型实例连接到专有网络VPC。DetachClassicLinkVpc：取消经典网络...
NLB服务器组概述
NLB服务器组分类及说明 服务器组类型 后端服务器类型 说明 参考 服务器类型 该类型服务器组支持添加ECS、ENI、ECI实例作为后端服务。添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自 NLB 转发的请求。添加云服务器...
中断服务器网络
若您需要测试应用在服务器网络中断的情况下是否能正常运行，通过 PelicanDT 可轻松地模拟服务器网络中断的测试环境。本文将介绍使用 PelicanDT 中断服务器网络的方法。前提条件 您已安装 PelicanDT SDK，请参见 安装 PelicanDT SDK。您已在...
阿里云异构计算产品总览
什么是异构计算 异构计算（Heterogeneous Computing）是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式，目前主要包括GPU云服务器、FPGA云服务器 以及弹性加速计算实例EAIS 等。异构计算能够让最适合的专用硬件去服务最适合...
延时服务器网络
若您需要测试应用在服务器网络延时的情况下是否能正常运行，通过 PelicanDT 可轻松模拟服务器网络延时的测试环境。本文将介绍使用 PelicanDT 模拟服务器网络延时环境的方法。前提条件 您已安装 PelicanDT SDK，请参见 安装 PelicanDT SDK。...
配置全链路HTTPS访问实现加密通信
应用场景 随着企业的业务大量上云，云上承载业务的安全性变得越来越重要，尤其在金融、政府等行业，为了保障业务的安全性，往往会存在全链路加密的要求。这就要求负载均衡在提供服务的时候，不仅要保障前端（客户端到负载均衡）通信的安全...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
基于ECS实例创建伸缩组
当CLB实例的网络类型为经典网络，伸缩组的网络类型为专有网络时，如果CLB实例的后端服务器组中包含专有网络ECS实例或ECI实例，该实例必须与伸缩组位于同一专有网络。CLB实例至少需要配置一个监听。具体操作，请参见 CLB监听概述。CLB实例...
网络配置
建议您选择与所需接入堡垒机系统进行运维的ECS服务器相同的网络类型：如果ECS服务器都处于专有网络环境，堡垒机实例的网络应选择 专有网络（VPC）。如果ECS服务器都处于经典网络环境，堡垒机实例的网络应选择 经典网络。如果需要接入ECS...
Ubuntu18.04实例重启后网络不通
问题描述 Ubuntu 18.04重启后发现网络不通，配置/etc/network/interfaces 文件也不生效。执行 ifconfig 命令只能看到一个lo网卡，发现并没有eth0网卡的配置。...netplan apply 相关文档 Ubuntu18.04 网络配置介绍 适用于 云服务器 ECS
EcsSpec
名称 类型 描述 示例值 object ECS 规格 InstanceType string 规格类型 ecs.gn6e-c12g1.3xlarge AcceleratorType string 加速器类型 GPU Cpu integer cpu 数量 12 Gpu integer gpu 数量 1 GpuType string gpu 类型 NVIDIA v100 Memory ...
ReplaceServersInServerGroup-替换后端服务器组中的...
192.168.1.1 ServerType string 是 后端服务器类型，单次调用最多支持传入 200 个服务器。取值：Ecs：ECS 实例。Eni：ENI 弹性网卡实例。Eci：ECI 弹性容器。Ecs Weight integer 否 后端服务器的权重，单次调用最多支持传入 200 个服务器。...
ListServerGroups-查询服务器组
取值：Instance：服务器类型，包括 Ecs、Eni、Eci 实例。Ip：IP 地址类型。Fc：函数计算类型。不填则查询所有类型。Instance Tag object[]否 服务器组绑定的标签列表。一次请求中，绑定的标签列表中最多支持 10 个标签。Instance Key ...
ACS:ECS:ElegantRunCommandInSLBDefaultServerGroup
String 属性 属性名称 描述 类型 是否必填 默认值 约束 regionId 地域ID String 否 {{ ACS:RegionId }} loadBalancerId SLB实例ID String 是 serverId 后端服务器ID String 是 weight 后端服务器权重 Number 是 type 后端服务器类型 String...
创建和管理主备服务器组
选择云服务器ENI 选择服务器类型为 云服务ECS/弹性网卡ENI，打开 高级模式 开关。单击目标ECS实例ID右侧的加号图标，选择ENI。如果您需要选择云服务器ENI，确保目标ECS已绑定了弹性网卡，关于如何将辅助网卡绑定到ECS实例的操作，请参见 ...
通过密码或密钥认证登录Windows实例
实例所在安全组已允许Workbench服务相关的IP访问实例，安全组规则详情和实例的网络类型有关。专有网络实例 连接专有网络实例时，请在 安全组规则 页面的 入方向 页签添加安全组规则，如下表所示。授权策略 优先级 协议类型 端口范围 授权...
CreateMasterSlaveServerGroup-创建主备服务器组
Type：后端服务器类型，取值：ecs：ECS 实例（默认）。eni：弹性网卡实例。eci：弹性容器实例。说明 只有性能保障型实例支持添加 eni 和 eci 类型的后端服务器。ServerIp：ENI 或 ECI 的实例 IP。Port：用来接收请求的后端端口。ServerType...
- 产品推荐
- 这些文档可能帮助您