使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
停止实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍停止ECS实例，以及VPC内实例节省停机模式相关操作。前提条件 实例必须处于 运行中 状态。警告 停止实例会中断您的业务，请谨慎执行。停止包年包月实例 说明...
应用场景
其中FPGA H.265高清编码、720P节省带宽21.6%，GPU云服务器支持高并发实时视频流5000路以上，并逐步上升到峰值6200路每分钟，且顺利度过洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
上云须知
GPU云服务器 是基于GPU应用的计算服务，多适用于AI深度学习、视频处理、科学计算、图形可视化等应用场景。网络规划 容器集群基础设施（云服务器 ECS）的网络类型选择：专有网络VPC或经典网络。专有网络VPC：推荐使用。采用二层隔离，相对...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
如何选用云服务器
在阿里云电子政务云上，云服务器有很多不同的规格型号，例如都是4核8G内存的云服务器，在不同应用场景下的性能跑分不同，价格也不同。本文为您介绍阿里云云服务的常见参数类别，帮助您根据不同的业务需求选择合适的云服务。云服务器参数...
PAI-TF概述
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种...
案例二
业务背景 某客户为鞋服类企业客户提供自动化营销服务。通常需要结合会员标签，库存信息等多种维度来运算报表，运算量较...视图中已有运算好的数据，利于快速查询，生成报表。同时利用定时刷新功能，客户可以节省维护额外的任务调度系统开销。
产品计费
FPGA云服务器计费相关功能和云服务器ECS一致，本文为您介绍FPGA云服务器的计费信息。计费项及其计费方式 一台FPGA实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的FPGA资源如下表所示。计费项 计费说明 计费方式 ...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
灵骏常见问题
适用场景 适用于计算密集、相似度高、多线程并行的高吞吐量运算场景。适用于对响应速度有要求，逻辑复杂的串行运算场景。最适合GPU的计算类型是可以并行完成的计算，您可以使用并行编程方法和GPU加速计算。而神经网络是高度并行的，非常...
自助诊断GPU节点问题
ACK集群提供节点级别的GPU诊断功能，供您进行部分GPU相关问题的故障排查。如果您在ACK Pro版集群中使用GPU节点时遇到问题，可以启用GPU节点自助诊断，采集GPU诊断的基础指标进行问题排查。本文介绍如何使用节点诊断功能，自助排查GPU节点...
镜像商品的版本管理
可以不做设置，不设置代表该镜像运行可以支持1核及以上GPU的云服务器 内存配置 不做设置 0.5 GiB – 1024 GiB 可以不做设置，不设置代表该镜像部署和运行可以支持0.5GiB及以上内存的云服务器 VPC专有网络是否支持多网卡 支持 支持和不支持...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
视觉计算型
本文介绍云服务器ECS视觉计算型实例规格族的特点，并列出了具体的实例规格。视觉计算型实例规格族ebmgi6s ebmgi6s的特点如下：基于阿里云神龙架构及Intel ® Server GPU，为您提供快速弹性扩展的安全架构及最新高密度云手游渲染实例。可...
常用操作导航
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的操作方式。在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，...
连接方式概述
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的连接方式。ECS支持通过多种方式连接实例，包括阿里云提供的连接工具（例如Workbench、VNC等）和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、...
创建GPU实例
GPU实例在大规模并行计算或者图形渲染场景下，具有较强的计算能力和图形处理能力。使用GPU实例可以为您的业务提供更好的计算性能或者满足专业级图形设计需求，本文为您介绍如何创建GPU实例。操作步骤 前往 实例创建页。选择 自定义购买 页...
GPU计算型
主售（推荐类型）GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例...服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器实例规格族ebmgn7e GPU计算型弹性裸金属服务器实例规格族ebmgn7ix GPU计算型弹性裸金属服务器实例规格...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
使用限制
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次...
超级计算集群概述
SCC与阿里云ECS、GPU云服务器等计算类产品一起，为 阿里云弹性高性能计算平台E-HPC 提供了极高性能的并行计算资源，实现真正的云上超算。机型对比 SCC与物理机、虚拟机的对比如下表所示。其中，Y表示支持，N表示不支持，N/A表示无数据。...
已停售的GPU实例规格
2.5 GHz主频的Intel ® Xeon ® Platinum 8163（Skylake），计算性能稳定 存储：I/O优化实例 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘 支持高性能并行文件系统CPFS 网络：支持IPv6 支持专有网络VPC 支持RoCE V2网络，用于低...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
产品优势
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
使用限制
云服务器ECS在产品功能和服务性能上可能存在一些限制，建议您在实际使用之前了解相应的限制，提前规划并申请适合您需求的更高配额，以确保云服务器ECS能够满足您的业务需求。本文介绍云服务器ECS在产品功能和服务性能上存在的限制以及如何...
释放实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。前提条件 ...
使用限制
FPGA实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次...
ECS选型最佳实践
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。重要 本文主要介绍如何选择企业级实例规格族，不包括入门级（共享型）规格族。有关入门级实例选型，请参见 共享型 或 突发性能实例概述。了解实例规格族 实例规格清单：实例规格族...
实例FAQ
本章节汇总了使用云服务器ECS实例时的常见问题。购买实例问题 如何查看某个地域或可用区是否能购买实例？购买实例时，资源已经售罄怎么办？如何选择适合我业务的ECS实例？购买ECS实例如何付款？开通一台云服务器需要多久？购买实例付款成功...
产品优势
对比项 弹性容器实例 云服务器ECS 弹性裸金属服务器 成本 只为Pod付费，节约成本。为ECS整体付费。为裸金属服务器整体付费。运维 无需管理节点，运维简单，成本低。需要自行管理节点，运维ECS。需要自行管理节点，运维裸金属服务器。性能 ...
支持的云服务
什么是弹性伸缩ESS 云助手 云助手是专为云服务器ECS打造的原生自动化运维工具，通过免密码、免登录、无需使用跳板机的形式，在ECS实例上实现批量运维、执行命令（Shell、PowerShell和Bat等）和发送文件等操作。典型的使用场景包括：安装卸...
使用Megatron-Deepspeed训练GPT-2并生成文本
本文介绍如何使用GPU云服务器，使用Megatron-Deepspeed框架训练GPT-2模型并生成文本。背景信息 GPT-2模型是OpenAI于2018年在GPT模型的基础上发布的新的无监督NLP模型，当时被称为“史上最强通用NLP模型”。该模型可以生成连贯的文本段落，...
- 产品推荐
- 这些文档可能帮助您