什么是Deepytorch
Deepytorch是阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。在训练方面，Deepytorch在保障精度的前提下实现端到端训练性能的显著提升，可降低训练成本，提升迭代速度。在推理方面，Deepytorch通过即时编译技术对...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
智能水位分析支持的云产品及其监控项
云产品 MetricName 选取的统计列 云服务器ECS cpu_total Average memory_usedutilization Average networkin_rate Average networkout_rate Average diskusage_used Average diskusage_utilization Average gpu_gpu_usedutilization ...
应用场景
阿里云游戏将游戏部署运行在阿里公共云平台，通过GPU虚拟化、边缘计算、容器技术、音视频编解码技术，将重度游戏作品推向低配设备玩家，大大降低玩家接触重度游戏的门槛，让游戏开发商可以触达更多的用户。游戏运营商 背景 随着线上流量的...
异构服务型
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
使用限制
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次...
在GPU计算型实例中安装Tesla驱动（Windows）
在深度学习、AI等通用计算业务场景下，安装了Tesla驱动的GPU才能发挥高性能计算能力。本文为您介绍为Windows系统的GPU计算型实例手动安装Tesla驱动的方法。操作步骤 说明 本文适用于所有Windows系统GPU计算型实例，更多信息，请参见 GPU...
使用限制
本文介绍 函数计算 在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。...
升级Tesla或GRID驱动
如果您的NVIDIA Tesla或NVIDIA GRID驱动版本已不适用于当前场景，或者您安装了错误的驱动类型或版本导致GPU实例无法使用，您可以通过卸载当前驱动再安装所需驱动的方式，完成Tesla或GRID驱动的升级操作。升级NVIDIA Tesla 驱动 升级Tesla...
概览
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。应用场景 您可以使用主机监控功能查询主机的资源使用情况和故障指标。主机监控的...
在GPU实例上使用RAPIDS加速机器学习任务
RAPIDS预装镜像已经发布到阿里云镜像市场，创建GPU实例时，您可以在镜像市场中搜索 NVIDIA RAPIDS 并使用RAPIDS预装镜像。说明 该RAPIDS预装镜像使用Ubuntu 16.04 64-bit操作系统。NGC（全称NVIDIA GPU CLOUD）是NVIDIA推出的一套深度学习...
释放实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。前提条件 ...
使用限制
云服务器ECS在产品功能和服务性能上可能存在一些限制，建议您在实际使用之前了解相应的限制，提前规划并申请适合您需求的更高配额，以确保云服务器ECS能够满足您的业务需求。本文介绍云服务器ECS在产品功能和服务性能上存在的限制以及如何...
监控报警概述
无影云电脑（专业版）的监控报警功能可以全方面地监控云电脑的分布情况、云电脑资源使用情况、会话连接情况以及网络运行状况等，帮助您全盘了解资源健康状况，及时发现并解决问题，以保证业务顺畅运行。功能介绍 监控大盘展示云电脑相关的...
ECS选型最佳实践
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。重要 本文主要介绍如何选择企业级实例规格族，不包括入门级（共享型）规格族。有关入门级实例选型，请参见 共享型 或 突发性能实例概述。了解实例规格族 实例规格清单：实例规格族...
UploadImage-上传自定义Windows镜像
gpu_grid12：可用于除了图形型4vCPU-23GiB内存-4GiB显存和图形型10vCPU-46GiB内存-8GiB显存这两个规格之外的图形型云电脑上。gpu_grid9 LicenseType string 否 导入镜像后，激活操作系统采用的许可证类型。取值范围：Auto：由阿里云检测源...
什么是弹性云手机
弹性云手机（Elastic Cloud Phone）是一台运行在云端服务器的虚拟手机，利用公有云和ARM虚拟化技术，为您在云端提供一个安卓移动应用平台。您基于电脑、平板等终端设备，以串流的方式，远程实时操控云手机，实现游戏、办公等应用在云端运行...
GPU计算型和GPU虚拟化型实例概述
本文介绍云服务器ECS GPU计算型和GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。推荐 GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例...
在GPU实例上使用RAPIDS加速图像搜索任务
本文以使用RAPIDS加速图像搜索任务为例，介绍如何在预装镜像的GPU实例上使用RAPIDS加速库。前提条件 使用本教程进行操作前，请确保您已经注册了阿里云账号。如还未注册，请先完成 账号注册。背景信息 RAPIDS（全称Real-time Acceleration ...
已停售的GPU实例规格
vCPU 内存（GiB）GPU GPU显存（GB）网络带宽（Gbit/s）网络收发包PPS RoCE网络（Gbit/s）多队列 弹性网卡 单网卡私有IP ecs.sccgn6e.24xlarge 96 768.0 NVIDIA V100*8 32GB*8 32 480万 50 8 32 10 GPU计算型超级计算集群实例规格族sccgn6 ...
停止实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍停止ECS实例，以及VPC内实例节省停机模式相关操作。前提条件 实例必须处于 运行中 状态。警告 停止实例会中断您的业务，请谨慎执行。停止包年包月实例 说明...
搭建Windows环境GRID驱动的License Server
安装GRID驱动，然后添加License服务器并激活License。具体操作，请参见 在GPU实例（计算型和虚拟化型）中安装GRID驱动（Windows）。激活License时，请填写您搭建了License Server的ECS实例公网IP，端口号为7070。前往License Server管理...
什么是Deepytorch Inference（推理加速）
Deepytorch Inference是阿里云自研的AI推理加速器，专注于为Torch模型提供高性能的推理加速。通过对模型的计算图进行切割、执行层融合以及高性能OP的实现，大幅度提升PyTorch的推理性能。本文介绍Deepytorch Inference在推理加速方面的概念...
使用限制
限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次虚拟化，其他规格族不支持安装虚拟化软件和二次虚拟化。不支持声卡应用。不支持直接加载外接硬件设备（如硬件加密狗、U盘、外接硬盘、银行UKey等），您可以...
安全能力概述
机密虚拟机（Confidential VM）安全能力：机密虚拟机可以在无需对其应用进行任何代码更改的情况下，将原有的敏感业务负载以加密运算的方式运行在云上，可以满足您对敏感数据的保护需求。当前阿里云提供了基于Intel TDX、AMD SEV 和海光CSV ...
块存储概述
块存储是阿里云为云服务器ECS提供的块设备产品，具有高性能和低时延的特点，支持随机读写，满足大部分通用业务场景下的数据存储需求。您可以像使用物理硬盘一样，在云服务器ECS上进行格式化并建立文件系统来使用块存储。本文介绍块存储的...
DescribeBundles-查询云电脑模板的详细信息
查询云电脑模板的详细信息。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素...
什么是云渲染GCS
产品架构 云渲染GCS（Graphic Computing Service），是面向游戏开发、科研计算、人工智能等客户场景的GPU通用Serverless计算服务。GCS支持应用自动部署与资源灵活调度，提供高性价比图形计算运行环境与大规模即时云渲染能力。云渲染GCS的...
什么是AI分布式训练通信优化库AIACC-ACSpeed
上图中，GPU0~GPU3或者GPU4~GPU7的各卡之间相互通过PCIe Bridge连接（PIX），而GPU0到GPU4~GPU7、GPU1到GPU4~GPU7、GPU2到GPU4~GPU7、GPU3到GPU4~GPU7之间需要通过socket之间的QPI/UPI接口连接（SYS）。优化方法 在原生NCCL通信库中，默认...
CreateBundle-创建自定义云电脑模板
说明 非 GPU 镜像只能选择非 GPU 规格，GPU 镜像只能选择 GPU 规格。eds.enterprise_office.2c4g RootDiskSizeGib integer 是 系统盘大小。单位：GiB。支持设置的系统盘大小与规格相对应。更多信息，请参见 云电脑规格概述。80 BundleName ...
功能发布记录
使用限制 云桌面 变更云桌面的规格 无影云桌面支持变更云桌面所包含vCPU、GPU、内存或显存等计算资源的规格，您可以按需变更一台云桌面的规格，也可以批量变更多台云桌面的规格。扩容云桌面的云盘容量 当云桌面的云盘使用空间不足时，您...
在GPU实例上部署NGC环境
NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，方便您免费访问深度学习软件堆栈，建立适合深度学习的开发环境。本文以搭建TensorFlow深度学习框架为例，为您介绍如何在GPU实例上部署NGC环境。背景信息 NGC作为一套深度学习...
常见问题
使用FTP上传文件后文件大小变成0 KB Linux系统的云虚拟主机无法删除目录或文件 Linux系统的云虚拟主机无法通过FTP删除目录 将网站程序上传至轻云服务器和云虚拟主机提示“Fatal error:Unable to read XXXX bytes”因编码问题无法上传文件 ...
休眠实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。如果您在某个时间段内无需运行ECS实例，也不会执行某些操作（如升降配等），建议您休眠ECS实例。相比停止实例，休眠实例后再次启动实例，ECS实例会自动恢复至休眠前...
DescribeDesktopGroups-查询云电脑池列表及详情
查询云电脑池列表及详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...
快速入门
按照授权用户数量 精选云电脑模板 说明 支持精选云电脑模板和自定义云电脑模板，您可以在 精选云电脑模板 下选择已有的系统云电脑模板，也可以根据需要创建自定义云电脑模板。具体操作，请参见 自定义云电脑模板。在此以精选云电脑模板为例...
什么是AI通信加速库Deepnccl
Deepnccl是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍Deepnccl的架构、优化原理和性能说明。产品简介 Deepnccl基于NCCL（NVIDIA Collective ...
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
已停售的实例规格
处理器：3.2 GHz主频的Intel Xeon E5-2667 v4（Broadwell）处理器 计算性能稳定 I/O优化实例 仅支持SSD云盘和高效云盘 实例网络性能与计算规格对应（规格越高网络性能越强）适用场景：高性能Web前端服务器 高性能科学和工程应用 MMO游戏、...
- 产品推荐
- 这些文档可能帮助您