什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
应用场景
GPU云服务器应用场景 直播实时视频转码 阿里云GPU云服务器重点支持2019年天猫双11狂欢夜直播的实时视频转码，以高画质、低带宽、高分辨率、实时的综合优势服务于天猫双11狂欢夜当天直播业务4K、2K、1080P等各个分辨率的转码。具体说明如下...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
自定义服务器端口
本文介绍如何在网站配置中修改服务器端口。自定义端口的限制 端口范围限制 DDoS高防实例的 功能套餐 不同，支持的可选端口范围不同。标准功能套餐的实例不满足您的要求时，请将实例升级到增强功能套餐。具体操作，请参见 续费实例。实例的...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
服务器端口被屏蔽导致服务无法访问
当您遇到服务器端口被屏蔽导致服务无法访问，请按本文提供的方法尝试解决。解决办法 开放对应端口即可（例如：12200）。具体操作，请参见 添加安全组规则。
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
修改域名绑定的DDoS高防实例
例如，您要解除域名1和DDoS高防实例1的绑定，域名1接入配置中服务器端口为80，那么解除绑定前，需要确保DDoS高防实例1和其他域名绑定，且域名接入配置中服务器端口包含80。使用限制 域名不支持同时关联 标准功能 和 增强功能 套餐下的DDoS...
设置端口
背景信息 完成网站接入后，WAF只通过在接入网站时已添加的服务器端口，向源站服务器转发业务流量。对于未添加的端口，WAF不会转发任何来自该端口的访问请求流量到源站服务器。WAF防护的端口包含标准端口和非标准端口，不同的版本支持的端口...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
独享集群最佳实践
说明 选择 独享集群 防护后，服务器端口 只能从独享集群设置中已开启的服务器端口范围内选择。更多信息，请参见 配置独享集群。更多配置说明，请参见 添加域名。单击 下一步，并根据页面提示修改域名的DNS解析，将实际业务切换到WAF进行...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
混合云WAF常见问题
安装在本地服务器节点上的WAF客户端应用程序（vagent）的日常运维工作由阿里云WAF服务端负责，包括节点运行状态异常监控、应用程序默认开放的服务器端口（包含80、8080、443、8443）的安全管控。服务器属于您的资产，由您企业的管理人员...
WAF支持的端口
您可以在网站接入配置中自定义网站服务器端口，WAF将通过您设置的服务器端口为网站提供流量的接入与转发服务。本文介绍WAF支持的标准端口和非标端口。背景信息 完成网站接入后，WAF只通过已设置的服务器端口向源站服务器转发业务流量。对于...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
四层加速
如果您的应用直接以四层TCP/UDP协议连接源站...服务器端口 源站服务器的端口，例如 8080、8880 等。目前仅支持填写单个端口，暂不支持端口段 代理协议 将客户端的原始IP和端口信息透传到源服务器的代理协议，支持TOA、PP明文协议。单击 确定。
WAF支持的端口范围
您在网站接入配置中添加网站服务器端口后，WAF将通过您设置的服务器端口为网站提供流量的接入与转发服务。本文介绍WAF支持防护的标准端口和非标端口。标准端口 WAF支持防护如下标准端口：HTTP协议端口：80、8080 HTTPS协议端口：443、8443 ...
创建和管理服务器组
前提条件 在向服务器组添加云服务器前，确保您已创建了云服务器实例并部署了相关应用，用来接收转发的请求。如果需要将流量路由到服务器组中的后端服务器，请在创建监听或监听转发规则时指定服务器组。更多信息，请参见 NLB监听概述。创建...
管理防火墙
Q4：轻量应用服务器端口不通怎么办？如果服务器涉及跨境访问（包括中国香港），可能会受到国际链路拥塞，运营商出境路由限制影响，出现网络链路拥塞、访问不稳定、访问延时过高的情况。跨境链路属于运营商公共网络，链路质量问题影响因素较...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
透明接入
开启透明接入后，该服务器端口的流量被引流到WAF进行防护。例如，您同时为SLB实例A的80、443端口，以及另一个SLB实例B的80、443端口开启透明接入，则共添加了4个引流端口配置（SLB实例A的80端口、SLB实例A的443端口、SLB实例B的80端口、SLB...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
操作指南
防护对象 在DDoS高防控制台配置 域名接入 添加网站配置 修改网站业务的回源设置 自定义服务器端口 上传HTTPS证书 自定义TLS安全策略 设置流量标记 端口接入 配置端口转发规则 修改端口回源设置 配置健康检查 配置会话保持 放行DDoS高防回源...
IIS Web网站访问故障
问题原因 由于网站服务器端口被占用，导致无法访问网站。解决方案 说明 本操作步骤以网站服务端口为80端口、基于IIS配置网站的Windows实例操作系统为Windows Server 2019数据中心版64位中文版为例进行说明，具体操作以您实际的服务端口和...
RPC服务无法调用
检查服务器端口是否被屏蔽导致服务无法访问。如果正常，请进行下一步。如果端口被屏蔽，请参见 添加安全组规则，设置对应端口的安全组规则。请检查Tomcat日志错误，如何查看日志，请参见 EDAS如何使用日志文件排查问题。如果不存在日志错误...
配置端口转发规则
如果网站信息中的服务器端口为80，则自动生成一条转发协议为TCP、转发端口为80的规则。如果网站信息中的服务器端口为443，则自动生成一条转发协议为TCP、转发端口为443的规则。添加单条规则 单击 添加规则，完成规则配置后单击 确定。配置...
常见问题诊断
检查“SIP服务器地址”和“SIP服务器端口”是否为阿里云视图计算产品提供的SIP服务器地址和端口。检查协议版本是否为“GB/T28181-2016”。配置为基于TCP协议采用PS封装的视音频媒体传输。国标流接入失败排查步骤 检查与阿里云服务器的网络...
网站接入
当源站在阿里云外的IDC机房或者其他云服务商时，建议您PING域名查询域名的公网IP地址，再填写域名的公网IP地址。填写的IP没有在透明接入模式下开启引流。域名（如CNAME）格式：填写服务器回源域名，例如对象存储OSS的CNAME等。使用域名格式...
设置独享集群
设置 服务器端口 范围：选择协议类型，单击 自定义，填写服务器端口范围并单击 保存。当您将网站域名配置接入独享集群时，可快速选择独享集群服务器端口范围中的端口。设置 防护响应页面URL：填写已上传至阿里云CDN的静态页面URL，接入独享...
DescribeGroup-查询业务空间
example.aliyundoc.com GbPort long 空间关联的国标信令服务器端口。说明 仅适用于使用国标协议接入的空间。5060 GbId string 空间关联的国标 ID。说明 仅适用于使用国标协议接入的空间。3100000*0000001 GbIp string 空间关联的国标信令...
- 产品推荐
- 这些文档可能帮助您