云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
拉高服务器内存占用率
若需要测试应用在内存占用率高的情况下是否能正常运行，您可以通过 PelicanDT 轻松地模拟服务器内存占用率高的测试环境。本文将介绍使用 PelicanDT 拉高服务器内存占用率的方法。前提条件 您已安装 PelicanDT SDK，请参见 安装 PelicanDT ...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
如何查看服务器类型？
在服务器安装证书之前，您需要先了解服务器的类型，然后按照服务器类型选择对应的安装方式。本文介绍如何查看服务器类型。方式一：使用浏览器开发者工具查看服务器类型 使用浏览器访问您的域名。按F12，打开开发者工具，按照下图指引查看...
NLB服务器组概述
添加云服务器作为后端服务 IP类型 该类型服务器组支持添加IP地址作为后端服务。添加的IP地址不限于当前服务器组所在的VPC网段内，支持添加跨地域、跨VPC或本地IDC服务器的IP地址。IP地址作为后端服务，接收来自 NLB 转发的请求。添加当前...
阿里云异构计算产品总览
什么是异构计算 异构计算（Heterogeneous Computing）是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式，目前主要包括GPU云服务器、FPGA云服务器 以及弹性加速计算实例EAIS 等。异构计算能够让最适合的专用硬件去服务最适合...
在GPU实例上使用RAPIDS加速机器学习任务
本文介绍了如何在GPU实例上基于NGC环境使用RAPIDS加速库，加速数据科学和机器学习任务，提高计算资源的使用效率。背景信息 RAPIDS（全称Real-time Acceleration Platform for Integrated Data Science）是NVIDIA针对数据科学和机器学习推出...
ALB服务器组概述
服务器组类型 后端服务器类型 说明 参考 服务器类型 该类型服务器组支持添加ECS、ENI、ECI实例作为后端服务。添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自ALB转发的请求。关于ECS作为后端服务的教程，请参见：...
配置全链路HTTPS访问实现加密通信
应用场景 随着企业的业务大量上云，云上承载业务的安全性变得越来越重要，尤其在金融、政府等行业，为了保障业务的安全性，往往会存在全链路加密的要求。这就要求负载均衡在提供服务的时候，不仅要保障前端（客户端到负载均衡）通信的安全...
云服务使用限制索引
弹性计算 云服务 使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
创建和管理服务器组
选择云服务器ENI 选择服务器类型为 云服务器ECS/弹性网卡ENI，打开 高级模式 开关。单击目标ECS实例ID右侧的 图标，选择ENI。如果您需要选择云服务器ENI，确保目标ECS已绑定了弹性网卡，关于如何将辅助网卡绑定到ECS实例的操作，请参见 ...
快速实现IPv4服务的负载均衡
操作流程 准备工作 搭建负载均衡服务前，您需要根据业务需求规划 ALB 实例的地域，创建专有网络VPC（Virtual Private Cloud）和云服务器ECS（Elastic Compute Service）实例等。步骤一：创建ALB实例 使用负载均衡服务时，您需要先创建一个 ...
系统类故障排查
概述 本文主要介绍使用阿里云服务器ECS时的系统类故障排查，包含CPU、磁盘I/O、内存、硬盘、带宽资源占用异常的问题排查与定位。详细信息 说明 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，...
创建和管理服务器组
添加云服务器作为后端服务 当创建的服务器组为服务器类型时，需要添加后端服务器来处理转发请求。开启全端口转发的服务器组不能挂载相同的ECS、ENI和ECI实例。在 服务器组 页面，选择以下一种方法，进入后端服务器页面。找到目标实例，然后...
通过弹性网卡添加后端服务器
在 选择服务器 配置向导，选择 服务器类型 为 云服务器ECS/弹性网卡ENI，然后打开 高级模式 开关。说明 高级模式支持添加弹性网卡ENI上的主IP及其辅助IP，您可以随时切回到基础模式。在服务器列表中，单击目标ECS实例ID右侧的加号图标，...
ReplaceServersInServerGroup-替换后端服务器组中的...
替换后端服务器组中的后端服务器。接口说明 ReplaceServersInServerGroup 接口属于异步接口，即系统返回一个请求 ID，但该后端服务器尚未替换成功，系统后台的替换任务仍在进行。您可以调用 ListServerGroups 查询服务器组的状态：当服务器...
NLB快速实现IPv4服务的负载均衡
操作流程 准备工作 搭建负载均衡服务前，您需要根据业务需求规划 NLB 实例的地域，创建专有网络VPC（Virtual Private Cloud）和云服务器ECS（Elastic Compute Service）实例等。步骤一：创建NLB实例 使用负载均衡服务时，您需要先创建一个 ...
在ECS实例内访问网站提示“Nginx 502 bad gateway”...
本文介绍在ECS实例上使用浏览器访问网站时，提示“Nginx 502 Bad Gateway”错误的问题原因和解决方案。问题原因“Nginx 502 Bad Gateway”错误表示访问请求的php-cgi进程已经开始执行，但是由于读取资源失败等原因没有执行完毕，导致...
ListServerGroups-查询服务器组
查询网络型负载均衡实例的服务器组列表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的...
SSL证书安装指南
具体操作，请参见 云产品部署 和 云服务器部署。如果您的阿里云产品不在数字证书管理服务支持部署的范围内或需要部署国密证书（仅CDN、DCDN和DDos防护产品支持），请您联系阿里云产品对应的商务经理咨询或参考对应的阿里云产品帮助文档部署...
ListServerGroups-查询服务器组
查询指定地域的服务器组。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中...
创建和管理主备服务器组
在 创建主备服务器组 页面，在云服务器的 机器类型 列选择一台服务器作为主服务器。单击 创建，然后在弹出的对话框中单击 确定。七层监听不支持转发流量至主备服务器组。创建完主备服务器后，您可以：添加TCP监听，并选择创建的主备服务器...
CreateMasterSlaveServerGroup-创建主备服务器组
一个主备服务器组只能包含两个后端服务器，一个为主服务器，另一个为备服务器。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API...
ALIYUN:NLB:ServerGroup
ALIYUN:NLB:ServerGroup类型用于为网络型负载均衡创建服务器组。语法 {"Type":"ALIYUN:NLB:ServerGroup","Properties":{"ResourceGroupId":String,"Scheduler":String,"AddressIPVersion":String,"Servers":List,"PreserveClientIpEnabled...
ALIYUN:SLB:MasterSlaveServerGroup
ALIYUN:SLB:MasterSlaveServerGroup类型用于创建主备服务器组。重要 一个主备服务器组只能包含两个ECS实例，一个为主服务器，另一个为备服务器。语法 {"Type":"ALIYUN:SLB:MasterSlaveServerGroup","Properties":{...
- 产品推荐
- 这些文档可能帮助您