什么是AI分布式训练通信优化库AIACC-ACSpeed
上图中，GPU0~GPU3或者GPU4~GPU7的各卡之间相互通过PCIe Bridge连接（PIX），而GPU0到GPU4~GPU7、GPU1到GPU4~GPU7、GPU2到GPU4~GPU7、GPU3到GPU4~GPU7之间需要通过socket之间的QPI/UPI接口连接（SYS）。优化方法 在原生NCCL通信库中，默认...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
云安全中心免费版简介
支持的功能 云安全中心 免费版 支持防护阿里云服务器和非阿里云服务器（包括IDC服务器），提供漏洞扫描、应急漏洞扫描、异常登录检测、AK泄露检测、合规检查等功能。重要 云安全中心 免费版 仅支持漏洞、告警等风险的检测，不支持处理。...
安装和使用Deepytorch Training
Deepytorch Training是阿里云自研的AI加速器，面向生成式AI和大模型场景，提供了显著的训练加速能力。本文主要介绍安装并使用Deepytorch Training的操作方法。前提条件 已创建阿里云GPU实例，且GPU实例需满足以下要求：操作系统为Alibaba ...
常见问题
购买页面实际购买金额主要受以下两个因素的影响：保有服务器台数 保有服务器台数是指云安全中心保护的服务器总数，包括已购买的阿里云ECS服务器和安装了云安全中心Agent的非阿里云服务器，默认值是当前账号下拥有的ECS服务器和安装了云安全...
选择镜像
OpenSUSE软件版本更新，可扩展性强（可用于桌面或服务器），免费更新（也可购买官方技术支持）。SUSE Linux Enterprise更适用于工作、生产环境，娱乐功能较差，OpenSUSE可用于个人娱乐和其他较专业的用途。SUSE Linux在版本10.2以后更名为...
AIACC-ACSpeed体验示例
AIACC-ACSpeed（简称ACSpeed）作为阿里云自研的AI训练加速器，在提高训练效率的同时能够降低使用成本，可以实现无感的分布式通信性能优化。ACSpeed软件包中已为您提供了适配DDP的示例代码，您可以参考本文快速体验使用ACSpeed进行模型分布...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
启动方式与环境变量说明
在imagenet训练中使用MomentumSGD（训练优化器）时，建议设置为0.9。PERSEUS_NCCL_ENABLE（特殊版本）0：关闭NCCL混合链路支持。1：启用NCCL混合链路支持。默认值为0。当使用SCC机型时，可以启用此feature，在训练时同时使用RDMA链路与VPC...
安装和使用AIACC-AGSpeed
AIACC-AGSpeed（简称AGSpeed）专注于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，可以实现无感的计算优化性能。本文为您介绍安装和使用AGSpeed的方法。前提条件 已创建阿里云GPU实例，且...
安装和使用Deepytorch Inference
Deepytorch Inference是阿里云自研的AI推理加速器，针对Torch模型，可提供显著的推理加速能力。本文主要介绍安装并使用Deepytorch Inference的操作方法，以及推理效果展示。背景信息 Deepytorch Inference通过调用 deepytorch_inference....
迁移ECS实例至轻量应用服务器
警告 建议您分别为ECS实例与轻量应用服务器创建快照，如果因迁移失败造成服务器数据异常，您可以通过快照回滚服务器的云盘数据。确保迁移前后两台服务器内的运行环境版本信息一致。部分网站对服务器的运行环境的版本有较高的要求，如果迁移...
弹性裸金属服务器概述
本地SSD型弹性裸金属服务器实例规格族ebmi2g GPU计算型：GPU计算型弹性裸金属服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器实例规格族ebmgn7e GPU计算型弹性裸金属服务器实例规格族ebmgn7ix GPU计算型弹性裸金属服务器实例规格族...
新功能发布记录
2022-07-12 部分 导入自定义镜像 镜像检测概述 通过阿里云客户端连接实例 阿里云客户端是由阿里云官方推出的客户端工具，提供了对云服务器ECS、弹性容器实例ECI、轻量应用服务器、阿里云托管实例的资源浏览、查找、远程连接等功能。...
ListInstancesTrafficPackages-获取指定服务器的流量...
轻量应用服务器与其他阿里云服务之间通过公网产生的出网流量优先消耗服务器的固定流量配额，固定流量配额使用完毕后按超额流量计费。同一局域网（即同一 VPC 内网）的轻量应用服务器之间的流量免费。更多信息，请参见 流量配额与计费。QPS ...
ACK支持的GPU机型
GPU计算型gn4 NVIDIA M40 GPU计算型gn5i NVIDIA P4 GPU计算型gn5 NVIDIA P100 GPU计算型gn6e NVIDIA V100 GPU计算型gn6i NVIDIA T4 GPU计算型gn6v NVIDIA V100 GPU计算型gn7i NVIDIA A10 GPU计算型gn7s NVIDIA A30 GPU计算型弹性裸金属...
如何选用云服务器
在阿里云电子政务云上，云服务器有很多不同的规格型号，例如都是4核8G内存的云服务器，在不同应用场景下的性能跑分不同，价格也不同。本文为您介绍阿里云云服务的常见参数类别，帮助您根据不同的业务需求选择合适的云服务。云服务器参数...
轻量应用服务器数据迁移至ECS实例
如果当前轻量应用服务器无法满足您的业务需求，您可以将同一阿里云账号下轻量应用服务器平滑迁移至同地域或者跨地域下的云服务器ECS，以获取更加灵活的资源配置方案。本文介绍如何将轻量应用服务器迁移至ECS实例。迁移影响 影响项 说明 ...
镜像商品的版本管理
可以不做设置，不设置代表该镜像运行可以支持1核及以上GPU的云服务器 内存配置 不做设置 0.5 GiB – 1024 GiB 可以不做设置，不设置代表该镜像部署和运行可以支持0.5GiB及以上内存的云服务器 VPC专有网络是否支持多网卡 支持 支持和不支持...
部署方式概述
Tomcat作为一个开源且免费的Java Web服务器，常用来作为Web开发的工具。它可以托管由Servlet、JSP页面（动态内容）、HTML页面、JavaScript、样式表、图片（静态内容）组成的Java Web应用程序。您可根据实际需要，选择合适的方式进行部署。...
资产中心总览
资产：该区域展示当前阿里云账号下的服务器总数量、不同云安全中心版本的服务器数量、存在风险的服务器台数、无风险的服务器台数、暂停防护的服务器台数和关机的服务器台数。说明 免费版和仅采购增值服务版不支持展示不同版本的服务器数量...
常用操作导航
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的操作方式。在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，...
云解析DNS分配的DNS服务器
下表是云解析DNS分配给付费用户和免费用户的DNS服务器名称。云解析DNS版本 云解析DNS分配的DNS服务器名称 付费版 vip(1-8).alidns.com 免费版 dns(1-32).hichina.com、ns(1-8).alidns.com 如何获知云解析DNS分配的DNS服务器 登录 云解析DNS...
连接方式概述
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的连接方式。ECS支持通过多种方式连接实例，包括阿里云提供的连接工具（例如Workbench、VNC等）和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、...
使用限制
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次...
超级计算集群概述
SCC与阿里云ECS、GPU云服务器等计算类产品一起，为 阿里云弹性高性能计算平台E-HPC 提供了极高性能的并行计算资源，实现真正的云上超算。机型对比 SCC与物理机、虚拟机的对比如下表所示。其中，Y表示支持，N表示不支持，N/A表示无数据。...
ECS选型最佳实践
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。重要 本文主要介绍如何选择企业级实例规格族，不包括入门级（共享型）规格族。有关入门级实例选型，请参见 共享型 或 突发性能实例概述。了解实例规格族 实例规格清单：实例规格族...
创建GPU实例
如果您购买的是包年包月实例，请阅读《云服务器ECS服务条款》、《镜像商品使用条款》和《云服务器ECS退订说明》，如无疑问，选中《云服务器ECS服务条款》|《镜像商品使用条款》|《云服务器ECS退订说明》。单击 确定下单。在支付页面，查看...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
使用限制
云服务器ECS在产品功能和服务性能上可能存在一些限制，建议您在实际使用之前了解相应的限制，提前规划并申请适合您需求的更高配额，以确保云服务器ECS能够满足您的业务需求。本文介绍云服务器ECS在产品功能和服务性能上存在的限制以及如何...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
ICP备案用时多久送多久参与规则
符合条件的用于备案的阿里云服务器，均可享受最长不超过30天的赠送时长。本文为您介绍ICP备案用时多久送多久的具体规则，同时列出了相关的常见问题供您查看。前提条件 如果您想参与ICP备案用时多久送多久的活动，必须满足以下条件：购买了...
使用限制
限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次虚拟化，其他规格族不支持安装虚拟化软件和二次虚拟化。不支持声卡应用。不支持直接加载外接硬件设备（如硬件加密狗、U盘、外接硬盘、银行UKey等），您可以...
GPU自助诊断
ECS管理控制台支持配置 GPU设备健康检查 功能，通过该功能可以对当前实例的GPU卡状态或驱动状态进行全方位诊断，方便您自行诊断当前实例的GPU卡或驱动是否存在异常，帮助您及时发现和解决存在的常见问题。前提条件 已创建GPU实例且该实例...
什么是GPU容器共享技术cGPU
GPU容器共享技术cGPU是阿里云基于内核虚拟GPU隔离的容器共享技术。即多个容器共享一张GPU卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。为什么选择cGPU 兼容性好 不仅适配标准的Docker和Containerd工作方式，而且还...
访问ECS实例异常时的问题排查和指引
ECS云服务器访问异常问题排查流程图 对于ECS访问异常问题，基本排查思路如下ECS服务器访问异常问题排查流程图所示。ECS访问异常问题排查思路及处理办法 对于ECS访问异常问题，排查思路分为如下两个方面：通过私网访问异常时排查思路 如果...
查看服务器信息
关联产品 在该区域，系统会显示 云虚拟主机、云服务器ECS和无影云电脑的相关信息，单击对应服务名称，可以跳转到对应服务的官网页面。示例：查询流量使用情况 重要 对于每月无固定流量的套餐，不显示流量使用情况。更多信息，请参见 套餐...
新手指引
轻量应用服务器是一款可快速搭建且易于管理的轻量级云服务器，面向单台服务器提供了一键部署应用、一站式域名解析、安全管理以及运维监控等服务。本文介绍了轻量应用服务器的基础知识、快速使用流程、控制台的使用指引、计费方式、以及新手...
- 产品推荐
- 这些文档可能帮助您