安装并使用DeepNCCL
开发人员可以根据实际业务情况，在不同的GPU云服务器上安装DeepNCCL通信库，以加速分布式训练或推理性能。本文主要介绍在Ubuntu或CentOS操作系统的GPU实例上安装和使用DeepNCCL的操作方法。说明 关于DeepNCCL的更多信息，请参见 什么是AI...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
管理内网互通
轻量应用服务器使用阿里云自动分配的专有网络VPC（Virtual Private Cloud）进行网络隔离，默认情况下不与云服务器ECS、云数据库等其他处于专有网络VPC中的阿里云产品内网互通，您可以通过设置内网互通实现互联互通。本文介绍如何设置内网...
云服务器 ECS
云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器，实现计算资源的即开即用和弹性伸缩。阿里云ECS持续提供创新型服务器，解决多种业务需求，助力您的业务发展。
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
服务关联角色
应用场景 在您首次使用轻量应用服务器与云服务器ECS、云数据库等其他处于专有网络VPC中的阿里云产品实现内网互通时，轻量应用服务器会自动创建服务关联角色 AliyunServiceRoleForSwas，用于允许轻量应用服务器访问云企业网CEN、专有网络VPC...
通过Docker安装并使用cGPU服务
meminfo 只读 包括容器内剩余显存容量、正在使用GPU的进程ID及其显存用量。输出如下所示：Free:6730809344 PID:19772 Mem:200278016 weight 读写 用于设置容器获取显卡最大算力的权重，默认值为1。所有运行中的容器的权重之和必须小于等于...
支持的云服务
使用服务器迁移时，您可能会同时使用阿里云云服务器ECS、专有网络VPC、容器服务ACK等服务。SMC与其他云服务的关系如下图所示。具体说明如下表所示。服务名称 与其他服务的关系 相关文档 云服务器ECS 迁移服务器时，先通过快照将源服务器...
配置共享GPU调度仅共享不隔离策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。本文以使用GPU卡V100为例进行说明。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点标签 单击，添加如下记录：键 为 ack.node.gpu.schedule，值...
快速搭建WordPress个人博客
阿里云轻量应用服务器提供了多种应用镜像，您可以直接使用不同的应用镜像快速部署应用环境或网站。本文以WordPress应用镜像为例，介绍如何快速搭建WordPress个人博客及其使用WordPress的WPtouch插件搭建移动端的WordPress个人博客。背景...
轻量应用服务器自定义权限策略参考
本文介绍轻量应用服务器使用自定义权限策略的场景。什么是自定义权限策略 在基于RAM的访问控制体系中，自定义权限策略是指在系统权限策略之外，您可以自主创建、更新和删除的权限策略。自定义权限策略的版本更新需由您来维护。创建自定义...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
安装共享GPU调度组件
ACK Pro集群的实例规格架构设置为 GPU云服务器。其他配置，请参见 创建ACK集群Pro版。已获取集群KubeConfig并通过kubectl工具连接集群。使用限制 请勿将共享GPU调度的节点的CPU Policy设置为 static。cGPU服务的隔离功能不支持以UVM的方式...
ECS实例使用的Windows系统激活失败如何解决？
单击左下角服务器管理器图标，在页面右上角选择 工具>服务，找到并双击 Software Protection。在弹出的窗口选择 启动。说明 如果Software Protection服务启动异常或者启动时服务丢失，按照以下方法来重建Software Protection服务。运行 ...
PAI-TF概述
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种...
Windows系统ECS实例激活失败
免责声明：本文档可能包含第三方产品信息，该信息仅供参考。阿里云对第三方产品的性能、可靠性以及操作可能带来的潜在影响，不做任何暗示或其他形式的承诺。概述 本文主要介绍Windows系统ECS实例激活失败的处理方法。...适用于 云服务器ECS
监控与报警
GPU单卡维度 监控指标 描述 GPU显存设备接口使用率（卡维度）指定Pod的单张/多张卡的GPU显存设备接口使用率。GPU SM设备使用率（卡维度）指定Pod的单张/多张卡的GPU SM设备使用率。GPU设备功耗（卡维度）指定Pod的单张/多张卡的GPU设备功耗...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
常见问题
如果您的ECS实例的网络类型是VPC网络，迁移源默认会显示在 阿里云ECS云服务器 页签下。我在什么场景下使用服务器迁移？SMC可将待迁移物理服务器、虚拟机以及其他云平台云主机一站式地迁移到阿里云ECS，支持迁移主流Windows和Linux操作系统...
在GPU计算型实例中安装Tesla驱动（Linux）
在深度学习、AI等通用计算业务场景或者OpenGL、Direct3D、云游戏等图形加速场景下，安装了Tesla驱动的GPU才可以发挥高性能计算能力，或提供更流畅的图形显示效果。如果您在创建GPU计算型实例（Linux）时未同时安装Tesla驱动，则需要在创建...
导入迁移源概述
迁移场景 服务器迁移 可将IDC服务器、虚拟机、其他云平台的云主机或者云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。VMware无代理迁移 通过VMware Agentless无侵入式迁移技术，可将VMware虚拟机的业务迁移到阿里云，提高业务...
使用Kubernetes默认GPU调度
阿里云容器服务ACK支持GPU的调度与运维管理。默认的GPU使用模式与Kubernetes社区GPU的使用方式一致。本文以运行GPU的TensorFlow任务为例，介绍如何快速部署一个GPU应用。注意事项 针对纳入K8s集群管理的GPU节点，建议您按照本文示例中标准...
使用限制
本文介绍服务器迁移相关的使用限制，以便您更好地使用服务器迁移。迁移源和迁移任务数量限制 限制项 普通用户限制 例外申请方式（例外上限）一个阿里云账号总共可注册的迁移源数量 1000 提交工单 一个阿里云账号总共可创建的迁移任务数量 ...
指定GPU规格创建实例
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。OpenAPI 调用CreateContainerGroup接口创建ECI实例时，在通过InstanceType参数指定ECS GPU实例规格的基础上，必须通过容器...
IIS Web网站访问故障
在 服务器管理器 页面右上角，选择 工具>Internet Information Services(IIS)管理器。在 Internet Information Services(IIS)管理器 页面左侧导航栏，单击目标网站。在 IIS 区域，双击 错误页。在 Internet Information Services(IIS)管理...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
访问Windows IIS网站显示"503 Service Unavailable...
问题描述 Windows系统服务器使用IIS作为Web服务，访问搭建的网站出现“503 Service Unavailable”报错。问题原因 一般出现该报错可以先从系统和应用层的日志查看是否有相关记录信息，原因可能有多种。...适用于 云服务器ECS
GPU云产品选型决策指引
本文介绍如何根据您的业务情况选择不同的GPU云产品以及应用场景。GPU选型指引请参见以下流程图。关于函数计算Serverless GPU的详细应用场景介绍，请参见以下文档：准实时推理场景 实时推理场景 离线异步调用异步任务场景
指定GPU规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。配置示例如下：apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:...
指定GPU规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。配置示例如下：apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:...
步骤二：创建RHEL镜像
将物理服务器迁移到阿里云ECS（P2V和V2V）您可以使用服务器迁移中心SMC（Server Migration Center）将物理服务器的操作系统镜像迁移到阿里云ECS，在将镜像导入ECS后，再通过已导入的镜像创建RHEL实例。将虚拟机迁移到阿里云ECS（V2V）在...
利用DCGM实现GPU的性能分析
角色类型 说明 集群管理员 作为公司的Kubernetes集群管理员，您可能需要了解公司各个部门使用GPU资源的习性，从而更好地理解并优化整个集群中GPU资源的分配和使用情况，以提高集群的整体效率和服务质量。具体使用场景，请参见：场景一：...
自助诊断GPU节点问题
如果您在ACK Pro版集群中使用GPU节点时遇到问题，可以启用GPU节点自助诊断，采集GPU诊断的基础指标进行问题排查。本文介绍如何使用节点诊断功能，自助排查GPU节点问题，并提供nvidia-smi和XID状态码排查列表。前提条件 已创建ACK Pro版集群...
PAI-TF任务参数介绍
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。PAI-TF命令参数 您可以在 Designer 的SQL节点、DataWorks SQL节点及MaxCompute的...
基于GPU指标实现弹性伸缩
功能介绍 在高性能计算领域，例如深度学习模型训练、推理等场景，通常需要使用GPU来做计算加速。为了节省成本，您可以根据GPU指标（利用率、显存）来进行弹性伸缩。Kubernetes默认提供CPU和内存作为HPA弹性伸缩的指标。如果有更复杂的场景...
支持的云服务
本文介绍云服务器ECS与其他云服务的关系。...服务器迁移指引 云市场 云服务器ECS可以在 云市场 获取由第三方服务商提供的基础软件、企业软件、网站建设、代运维、云安全、数据及API、解决方案等相关的各类软件和服务。使用云市场镜像
GPU拓扑感知调度
Kubernetes对节点的GPU拓扑信息不感知，调度过程中对GPU的选择...关于GPU拓扑感知调度如何使用，请参见以下文档：GPU拓扑感知调度概述 安装GPU拓扑感知组件 Tensorflow分布式训练使用GPU拓扑感知调度 Pytorch分布式训练使用GPU拓扑感知调度
基于GPU指标实现弹性伸缩
功能介绍 在高性能计算领域，例如深度学习模型训练、推理等场景，通常需要使用GPU来做计算加速。为了节省成本，您可以根据GPU指标（利用率、显存）来进行弹性伸缩。Kubernetes默认提供CPU和内存作为HPA弹性伸缩的指标。如果有更复杂的场景...
共享GPU调度
容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）开源了GPU共享调度之后，您能在阿里云、AWS、Google Compute Engine和自己数据中心的容器集群上通过GPU共享调度框架实现多个容器运行在同一个GPU设备上的目标。ACK开源GPU...
开启集群GPU监控
新一代NVIDIA支持使用数据中心GPU管理器DCGM（Data Center GPU Manager）来管理大规模集群中的GPU，GPU监控2.0基于NVIDIA DCGM构建功能更强大的GPU监控体系。DCGM提供了种类丰富的GPU监控指标，有如下功能特性：GPU行为监控 GPU配置管理 ...
- 产品推荐
- 这些文档可能帮助您