云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
安装共享GPU调度组件
ACK Pro集群的实例规格架构设置为 GPU云服务器。其他配置，请参见 创建ACK集群Pro版。已获取集群KubeConfig并通过kubectl工具连接集群。使用限制 请勿将共享GPU调度的节点的CPU Policy设置为 static。cGPU服务的隔离功能不支持以UVM的方式...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
如何查看服务器类型？
方式一：使用浏览器开发者工具查看服务器类型 使用浏览器访问您的域名。按F12，打开开发者工具，按照下图指引查看服务器类型。方式二：使用命令方式查看服务器类型 登录您的服务器。在您的服务器输入以下命令查看服务器类型。curl-i说明是...
NLB服务器组概述
添加云服务器作为后端服务 IP类型 该类型服务器组支持添加IP地址作为后端服务。添加的IP地址不限于当前服务器组所在的VPC网段内，支持添加跨地域、跨VPC或本地IDC服务器的IP地址。IP地址作为后端服务，接收来自 NLB 转发的请求。添加当前...
ALB服务器组概述
添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自ALB转发的请求。关于ECS作为后端服务的教程，请参见：快速实现IPv4服务的负载均衡 快速实现IPv6服务的负载均衡 IP类型 该类型服务器组支持添加IP地址作为后端服务。...
配置全链路HTTPS访问实现加密通信
应用场景 随着企业的业务大量上云，云上承载业务的安全性变得越来越重要，尤其在金融、政府等行业，为了保障业务的安全性，往往会存在全链路加密的要求。这就要求负载均衡在提供服务的时候，不仅要保障前端（客户端到负载均衡）通信的安全...
安全组与弹性网卡关联的管理
选择对应网卡类型进行管理操作。主网卡 说明 主网卡所属安全组与其ECS实例所在的安全组保持一致，您可以通过修改ECS实例所在安全组来实现修改主网卡所属安全组。以下步骤指导您如何在安全组页面将主网卡加入新的安全组或者移出原有安全组。...
DescribeNetworkInterfaces-查看网卡列表
10.XXX.XXX.5 Type string 否 弹性网卡类型。取值范围：Primary：主网卡。Secondary：辅助网卡。默认值：空，表示查询所有类型。Secondary NetworkInterfaceName string 否 弹性网卡的名称。test-01 Status string 否 弹性网卡的状态。取值...
ListElasticNetworkInterfaces-查询灵骏弹性网卡列表
Available Ip string IP 地址 10.0.0.13 VpcId string 专有网络 ID vpc-f8ziirfl9k25h2qn7*VSwitchId string 交换机 ID vsw-uf6u8473r84e9*Message string 错误信息 成功 Mac string mac 地址 E0:01:A6:4A:6A:D0 Type string 网卡类型，...
GetElasticNetworkInterface-获取灵骏弹性网卡详情
Available Ip string 弹性网卡 IP 203.107.*VpcId string 云上 VPC ID vpc-j6ctp4n75306*VSwitchId string 交换机 ID vsw-uf6u8473r84e9*Message string 错误信息 成功 Mac string mac 地址 00:22:6D:97:*:*Type string 网卡类型 枚举值：...
EcsSpec
名称 类型 描述 示例值 object ECS 规格 InstanceType string 规格类型 ecs.gn6e-c12g1.3xlarge AcceleratorType string 加速器类型 GPU Cpu integer cpu 数量 12 Gpu integer gpu 数量 1 GpuType string gpu 类型 NVIDIA v100 Memory ...
NLB快速实现IPv4服务的负载均衡
操作流程 准备工作 搭建负载均衡服务前，您需要根据业务需求规划 NLB 实例的地域，创建专有网络VPC（Virtual Private Cloud）和云服务器ECS（Elastic Compute Service）实例等。步骤一：创建NLB实例 使用负载均衡服务时，您需要先创建一个 ...
命令行使用说明
您可以通过FastGPU的命令行，快速地部署云上GPU集群，管理资源的生命周期。还可以便捷地为集群安装深度学习环境，在集群运行代码，查看运行日志以及释放资源。前提条件 客户端已安装Python 3.6或以上版本。说明 您的ECS实例、本地机器、...
DescribeNetworkInterfaces-查看弹性网卡（ENI）列表
test-eni-name Type string 否 弹性网卡类型。取值范围：Primary：主网卡。Secondary：辅助网卡。默认值：空，表示查询所有类型。Secondary InstanceId string 否 弹性网卡当前附加的实例 ID。i-bp1e2l6djkndyuli*ServiceManaged boolean ...
ListServerGroups-查询服务器组
取值：Instance：服务器类型，该类型服务器组支持添加 Ecs、Ens、Eci 类型实例。Ip：IP 地址类型，该类型服务器组支持直接添加 IP 地址。Instance VpcId string 否 服务器组所在 VPC 的 ID。vpc-bp15zckdt37pq72zv*Tag object[]否 标签。...
查看VPC内ECS实例的流量
ECS2和ECS4是同一个VPC内不同交换机下的2台云服务器。ECS2和ECS4之间存在较高的互访流量，IT部门需要查看两者之间的流量信息详情。配置步骤 步骤一：创建流日志 登录 专有网络管理控制台。在左侧导航栏，选择 运维与监控>流日志。首次使用...
DescribeNetworkInterfaceAttribute-查询网卡属性
vpc-bp67acfmxazb4p*Type string 弹性网卡类型。可能值：Primary：主网卡。Secondary：辅助弹性网卡。Secondary Status string 弹性网卡的状态。可能值：Available：可用。Attaching：附加中。InUse：已附加。Detaching：分离中。Deleting...
SSL证书安装指南
具体操作，请参见 云产品部署 和 云服务器部署。如果您的阿里云产品不在数字证书管理服务支持部署的范围内或需要部署国密证书（仅CDN、DCDN和DDos防护产品支持），请您联系阿里云产品对应的商务经理咨询或参考对应的阿里云产品帮助文档部署...
ListServerGroups-查询服务器组
查询指定地域的服务器组。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中...
购买与选型
全球加速 实例：传统型负载均衡 CLB（原SLB）辅助网卡类型的弹性网卡 ENI 云服务器 ECS 网络型负载均衡 NLB 默认的加速区域和后端服务区域都位于中国内地 增强加速带宽 加速部署在阿里云上的应用 加速部署在非阿里云的应用 标准型 全球加速...
API FAQ
本文汇总了调用云服务器ECS API接口时的常见问题。什么是ECS API？创建ECS实例时报错：InvalidDataDiskCategory.NotSupported 创建多台ECS实例时如何设置有序的实例名称或者主机名称？如何创建有公网IP地址的ECS实例？通过API创建的ECS实例...
创建轻量应用服务器
重要 当您参考云服务器ECS的建站教程在轻量应用服务器上手动建站时，建议您选择手动搭建网站或应用的教程，并且教程中所选用的操作系统版本信息需要和轻量应用服务器的系统镜像版本信息一致。否则可能因为版本不兼容等原因导致运行命令报错...
普通模式下实现ECS绑定多EIP
选择 云服务器ECS实例 类型时，EIP无法绑定到已分配的辅助私网IP上。所在资源组：选择辅助弹性网卡所属的资源组。绑定模式：选择 普通模式。选择要绑定的实例：选中要绑定的辅助私网IP。可在目标辅助弹性网卡的 IP地址 列查看对应辅助私网...
- 产品推荐
- 这些文档可能帮助您