（推荐）使用EAIS提供的镜像快速部署Stable-Diffusion
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
ECS实例启动模式最佳实践
ecs.re6p ecs.g7a,ecs.r7a,ecs.c7a,ecs.re7p,ecs.r7p,ecs.g7nex,ecs.c7nex 企业级异构计算规格族群 ecs.gn5,ecs.gn5i,ecs.vgn5i ecs.gn6e,ecs.gn6i,ecs.gn6v,ecs.vgn6i-vws ecs.gn7,ecs.gn7e,ecs.gn7i,ecs.gn7r,ecs.gn7s,ecs.sgn7i-vws,ecs...
使用EAIS软件包手动部署ChatGLM-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
利用DCGM实现GPU的性能分析
NVIDIA GPU上存在一些硬件计数器，这些计数器可以用来收集一些设备级别的性能指标，例如GPU利用率、内存使用情况等。借助NVIDIA提供的NVML（NVIDIA Management Library）库或DCGM（Data Center GPU Manager）工具能够查询这些硬件层提供的...
使用GPU拓扑感知调度（Tensorflow版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
使用限制
hfg7、hfc7、hfr7、hfg6、hfc6、hfr6、hfg5、hfc5 GPU计算型：gn7、gn6i、gn6e、gn6v、gn5、gn5i 弹性裸金属服务器：ebmgn7、ebmgn6i、ebmgn6e、ebmg6、ebmc6、ebmr6、ebmhfg6、ebmhfc6、ebmhfr6 突发型：t6、t5 无 说明 更多详情，请参见 ...
搭建具备大模型和向量检索功能的知识库应用程序
背景信息 DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务时，该推理引擎可以为您提供高性能的大模型推理服务。更多信息，请参见 什么是推理引擎DeepGPU-LLM。...
准备工作
c 2.9 MarkupSafe 1.1.1 mkl-fft 1.1.0 mkl-service 2.3.0 mkl-random 1.1.1 numpy 1.18.5 olefile 0.46 PyYAML 5.3.1 parso 0.7.0 pexpect 4.8.0 pickleshare 0.7.5 Pillow 7.2.0 pip 20.0.2 pkginfo 1.5.0.1 prompt-toolkit 3.0.5 psutil...
本地盘
阿里云提供以下两种本地盘：类型 搭配的实例规格 应用场景 NVMe SSD本地盘 以下实例规格族搭配使用了NVMe SSD本地盘：本地SSD型i4、i4g、i4r、i3、i3g、i2、i2g、i2ne、i2gne、i1 GPU计算型gn5 以本地SSD型实例规格族为例，NVMe SSD本地盘...
公告：云服务器ECS规格配额升级
配额中心将于 2024年04月25日 22:00:00至2024年07月04日逐步分阶梯对云服务器ECS规格配额的配额项进行升级，自2024年07月04日实现全部升级。本次云服务器ECS规格配额升级时，配额中心会按照一定规则将您的老版配额项转换为新版配额项，且...
使用限制
hfg7、hfc7、hfr7、hfg6、hfc6、hfr6、hfg5、hfc5 GPU计算型：gn7、gn6i、gn6e、gn6v、gn5、gn5i 弹性裸金属服务器：ebmgn7、ebmgn6i、ebmgn6e、ebmg6、ebmc6、ebmr6、ebmhfg6、ebmhfc6、ebmhfr6 突发型：t6、t5 无 说明 更多信息，请参见 ...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
使用限制
hfg7、hfc7、hfr7、hfg6、hfc6、hfr6、hfg5、hfc5 GPU计算型：gn7、gn6i、gn6e、gn6v、gn5、gn5i 弹性裸金属服务器：ebmgn7、ebmgn6i、ebmgn6e、ebmg6、ebmc6、ebmr6、ebmhfg6、ebmhfc6、ebmhfr6 突发型：t6、t5 无 说明 更多详情，请参见 ...
神行工具包（DeepGPU）计费
使用神行工具包（DeepGPU）本身不需要额外支付费用，您只需要为执行计算任务过程中使用的阿里云资源（例如云服务器ECS或文件存储NAS）进行付费。神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch ...
GPU监控
请确保您已在云服务器ECS上安装云监控插件。具体操作，请参见 安装云监控插件。监控项说明 您可以从GPU、实例和应用分组维度查看GPU相关监控项。GPU的监控项如下表所示。监控项 单位 MetricName Dimensions（Agent）GPU维度解码器使用率%...
实例FAQ
本章节汇总了使用云服务器ECS实例时的常见问题。购买实例问题 如何查看某个地域或可用区是否能购买实例？购买实例时，资源已经售罄怎么办？如何选择适合我业务的ECS实例？购买ECS实例如何付款？开通一台云服务器需要多久？购买实例付款成功...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
云服务使用限制索引
弹性计算 云服务 使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器...
在GPU实例上使用RAPIDS加速机器学习任务
参数配置说明如下：实例：RAPIDS仅适用于特定的GPU型号（采用NVIDIA Pascal及以上架构），因此您需要选择GPU型号符合要求的实例规格，目前有gn6i、gn6v、gn5和gn5i，详细的GPU型号请参见 实例规格族。建议您选择显存更大的gn6i、gn6v或gn5...
预留实例券概述
hfg7、hfc7、hfr7、hfg6、hfc6、hfr6、hfg5、hfc5 GPU计算型：gn7、gn6i、gn6e、gn6v、gn5、gn5i 弹性裸金属服务器：ebmgn7、ebmgn6i、ebmgn6e、ebmg6、ebmc6、ebmr6、ebmhfg6、ebmhfc6、ebmhfr6 突发型：t6、t5 ② 地域及可用区 地域级...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
如何降低云服务器ECS与RDS PostgreSQL间的网络延迟
如果您的业务是建立在云服务器ECS上，并且通过内网连接RDS PostgreSQL数据库，在正常使用中发现延迟升高异常时，请参考本文指导降低云服务器ECS与RDS PostgreSQL间的网络延迟。查看内网延迟 登录 ECS实例列表，在上方选择地域，单击目标...
如何降低云服务器ECS与RDS PostgreSQL间的网络延迟
如果您的业务是建立在云服务器ECS上，并且通过内网连接RDS PostgreSQL数据库，在正常使用中发现延迟升高异常时，请参考本文指导降低云服务器ECS与RDS PostgreSQL间的网络延迟。查看内网延迟 登录 ECS实例列表，在上方选择地域，单击目标...
连接方式概述
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的连接方式。ECS支持通过多种方式连接实例，包括阿里云提供的连接工具（例如Workbench、VNC等）和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、...
什么是传统型负载均衡CLB
概述 CLB 通过设置虚拟服务地址，将添加的同一地域的多台云服务器虚拟成一个高性能和高可用的后端服务池，并根据转发规则，将来自客户端的请求分发给后端服务器池中的云服务器。CLB 默认检查云服务器池中的云服务器的健康状态，自动隔离...
常用操作导航
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的操作方式。在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，...
通过CEN实现ECS和无影云电脑网络互通
如果因为业务要求，需要云服务器ECS和无影云电脑之间网络互通，您可以通过阿里云云企业网CEN实现。本文以同地域的云服务器ECS和无影云电脑为例指导您如何通过CEN及其企业版转发路由器实现网络互通。背景信息 云服务器ECS（Elastic Compute ...
支持的云服务
本文介绍云服务器ECS与其他云服务的关系。...服务器迁移指引 云市场 云服务器ECS可以在 云市场 获取由第三方服务商提供的基础软件、企业软件、网站建设、代运维、云安全、数据及API、解决方案等相关的各类软件和服务。使用云市场镜像
释放实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。前提条件 ...
支持升级的主机
原产品 轻云经济版 轻云菁英版 轻云经典版 轻云全能版 轻云尊享版 轻云菁英版（中国香港）轻云经典版（中国香港）轻云服务器经济版 不支持 支持 支持 支持 支持 不支持 不支持 轻云服务器菁英版 不支持 不支持 支持 支持 支持 不支持 不...
支持治理成熟度检测的云服务
nat 共享宽带 cbwp 云消息队列RocketMQ版5.0 rocketmq 云企业网 cen 应用型负载均衡ALB alb 文件存储NAS nas 资源分类管理和审计分析 云服务 云服务代码 云服务器ECS ecs 云企业网 cen 专有网络VPC vpc 对象存储OSS oss 检索分析服务...
在Knative中使用GPU
GPU计算型实例规格族gn5i（NVIDIA P4)，例如：ecs.gn5i-c2g1.large。GPU计算型实例规格族gn5（NVIDIA P100)，例如：ecs.gn5-c4g1.xlarge。说明 gn5配备了本地盘，您可以挂载使用本地盘，更多信息，请参见 创建本地盘实例。当前ECI GPU支持...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
停止实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍停止ECS实例，以及VPC内实例节省停机模式相关操作。前提条件 实例必须处于 运行中 状态。警告 停止实例会中断您的业务，请谨慎执行。停止包年包月实例 说明...
导入迁移源概述
迁移场景 服务器迁移 可将IDC服务器、虚拟机、其他云平台的云主机或者云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。VMware无代理迁移 通过VMware Agentless无侵入式迁移技术，可将VMware虚拟机的业务迁移到阿里云，提高业务...
功能发布记录
2019-03-19 全部 实例规格族 2018年9月 功能名称 功能描述 发布时间 发布地域 相关文档 实例规格族 最新一代GPU云主机gn6v（V100机型）正式售卖。2018-09-12 全部 实例规格族 2018年3月 功能名称 功能描述 发布时间 发布地域 相关文档 GPU...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
API概览
资产 API 标题 API概述 DescribeInstance 查询ECS、SLB、EIP资产信息 查询当前阿里云账号拥有的公网IP资产（云服务器ECS实例、负载均衡SLB实例、弹性公网IP实例）的实例详情，该接口已经过时，推荐使用新接口DescribeInstanceIpAddress。...
购买须知
本文介绍购买云服务器ECS前需要了解的信息。备案须知 待备案的ECS实例需要满足购买要求，且每台实例可申请的备案服务号数量有限，更多信息，请参见 ICP备案服务器（接入信息）准备与检查。备案流程说明，请参见 ICP备案流程概述。资源升级 ...
- 产品推荐
- 这些文档可能帮助您