产品优势
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
在GPU虚拟化型实例中安装GRID驱动（Linux）
在AI等通用计算业务场景或者OpenGL、Direct3D、云游戏等图形加速场景下，安装了GRID驱动的GPU可有效发挥高性能计算能力，或提供更流畅的图形显示效果。本文为您介绍通过云助手快速安装GRID驱动的方法。说明 使用云助手安装GRID驱动前，建议...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
产品优势
由于使用隧道封装技术对云服务器的IP报文进行封装，所以云服务器的数据链路层（二层MAC地址）信息不会进入物理网络，实现了不同云服务器间二层网络隔离，因此也实现了不同VPC间二层网络隔离。VPC内的云服务器使用安全组防火墙进行三层网络...
总览
检查对象 检查项列表 云服务器 ECS 云盘快照 云盘快照跨地域复制 ECS应用保护 ECS应用备份库跨地域复制 对象存储 OSS（Object Storage Service）OSS版本控制 OSS跨地域复制 OSS备份 OSS备份库跨地域复制 文件存储 NAS NAS回收站 NAS备份 ...
创建ECS跳板机
本文描述了用户如何创建用于访问专属VMware环境的云服务器ECS跳板机。前提条件 完成专属VMware环境创建，详细过程请参见 创建实例。任务 创建云服务器ECS跳板机-Windows操作系统。操作步骤 访问专属VMware环境的VMware管理组件如vCenter、...
使用云原生AI监控大盘
云原生AI的监控组件能够帮助您从不同的维度（比如：集群、节点、训练任务等）监控集群的GPU资源使用情况，以及集群的各命名空间下的资源配额使用情况。本文分别从集群、节点、训练任务和资源配额维度介绍监控大盘，以及介绍如何安装和使用...
faascmd工具概述
faascmd是阿里云FPGA云服务器（FaaS）提供的一个命令行工具，是基于Python SDK开发的脚本。本文主要介绍faascmd工具的用途及其相关内容。faascmd用途 您可以使用faascmd工具实现以下操作：可以进行授权及相关操作。例如，授权访问、查看或...
EasyYitian迁移工具
EasyYitian是阿里云为支持倚天迁移专门打造的工具平台，包括软件兼容性扫描、环境兼容性分析、跨架构编译构建和预置镜像、性能对比调优，是集工具、预置镜像、迁移指南为一体的统一平台。通过对迁移过程的全链路支持，解决倚天迁移的难点和...
弹性加速计算实例EAIS安全性说明
弹性加速计算实例EAIS的云上安全性，是阿里云在面对当前的网络安全形势和挑战时所采取的措施，以及提高用户在资源和网络访问控制、EAIS资源操作、故障隔离和风险检测等方面的安全性所具备的能力。说明 通过在ECS实例（非GPU实例）上绑定...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
在GPU实例上部署eRDMA容器镜像
背景信息 如果您的业务需要大规模RDMA的网络服务能力，您可以在支持eRDMA能力的GPU实例规格上（目前仅ebmgn7ex和ebmgn7ix实例支持配置eRDMA功能），通过创建挂载支持弹性RDMA能力的网卡来实现。更多信息，请参见 eRDMA概述。eRDMA容器镜像...
指定GPU规格创建实例
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。OpenAPI 调用CreateContainerGroup接口创建ECI实例时，在通过InstanceType参数指定ECS GPU实例规格的基础上，必须通过容器...
使用须知
安全责任须知 云服务器ECS的云上安全性是阿里云和客户的共同责任。云服务器ECS（Elastic Compute Service）与客户在安全性方面各自应该承担的责任，请参见 ECS的安全责任共担模型。操作须知 创建ECS实例后，您拥有实例的管理员权限，阿里云...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
指定GPU规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。配置示例如下：apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:...
指定GPU规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。配置示例如下：apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:...
指定GPU规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。配置示例如下：apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:...
查看智能水位分析报告
云产品资源分布 此部分内容便于您从资源所属的资源组、财务单元和地域视角了解经过筛选后的云服务器ECS资源数量的分布。说明 当筛选条件为 财务单元 时，展示 实例资源组分布。当筛选条件为 资源组 时，展示 资源财务单元分布。水位统计与...
服务器迁移
服务器迁移可将您的服务器、虚拟机、云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。本视频指导您如何迁移服务器到阿里云。
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
重启实例
FPGA实例作为云服务器ECS的一类实例规格，保持了与管理ECS实例相同的相关操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关...
标签概述
随着云资源增加，管理难度也会相应增加，例如您可能无法批量对某一用途、某类应用或某组织下的云资源进行成本统计、运维监控，以确保资源的合理利用和高效管理等。为了细致、精确地管理您的资源，您可以使用标签对资源进行分类标记。标签是...
什么是弹性加速计算实例EAIS
弹性加速计算实例EAIS（Elastic Accelerated Computing Instances）是一款阿里云提供的性能卓越、成本优化、弹性扩展的IaaS（Infrastructure as a Service）级别弹性计算服务。EAIS可以将CPU资源与GPU资源成功解耦，帮助您将GPU资源附加到...
常见问题
所以需要同时购买阿里云ECS云服务器。30.如果已经有了ECS，云·原生建站模板可以单独购买吗？答：可以单独购买。具体操作如下：在您的阿里云官网账号下，找到ECS云服务器/实例，点击更换系统，在镜像市场找到“云·原生建站模板镜像”选择...
搭建Linux环境GRID驱动的License Server
步骤七：测试网络连接和访问 以下操作以创建一台Windows操作系统的GPU虚拟化实例vgn6i为例，您也可以直接应用您已创建的GPU实例。创建一台GPU实例。具体操作，请参见 创建未配备驱动的GPU实例。本示例选择的实例规格为GPU虚拟化实例vgn6i，...
概览
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。应用场景 您可以使用主机监控功能查询主机的资源使用情况和故障指标。主机监控的...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
指定ECS规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:matchLabels:app:...
云原生AI套件管理员运维指南
集群监控大盘可供您查看以下指标：GPU Summary Of Cluster：展示集群中总的GPU节点数、已分配的GPU节点数、不健康的GPU节点数。Total GPU Nodes：集群中总的GPU节点数。Unhealthy GPU Nodes：不健康的GPU节点数。GPU Memory(Used/Total)：...
查看历史系统事件
您可以查询过去一周内已处理的云服务器ECS系统事件，获取故障诊断和复盘分析数据。通过控制台查看 登录 ECS管理控制台。在左侧导航栏，单击 事件。在 事件 页面，您可以选择相应的事件类型查看不同地域下的系统事件，获取实例ID、事件类型...
指定ECS规格创建实例
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。OpenAPI 调用CreateContainerGroup接口创建ECI实例时，在通过InstanceType参数指定ECS GPU实例规格的基础上，还需要通过...
使用Kubernetes事件中心监控GPU异常
Xid消息表明发生了一般的GPU错误，通常是由于驱动程序对GPU的编程不正确或发送给GPU的命令损坏所致。这些消息可能表示硬件问题、NVIDIA软件问题或用户应用程序问题。GPU设备在使用中，容易发生一些Xid错误，可以配合Kubernetes事件中心，对...
常用操作导航
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的操作方式。在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，...
指定ECS规格创建Pod
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。apiVersion:apps/v1 kind:Deployment metadata:name:test labels:app:test spec:replicas:2 selector:matchLabels:app:...
产品优势
强大阿里云服务资源 一般网站采用的是虚拟主机，即使是独立的云服务器，也无法保证访客的安全和速度，而本产品集成了阿里云 云服务器（ECS）、负载均衡（SLB）、云数据库（RDS）、网络加速（CDN）、云盾安全服务 等产品，确保网站更加快速...
迁移场景
本文介绍从x86平台应用软件迁移到倚天云服务器的场景说明。软件迁移主要包含以下两种场景：自研软件：指开发者开发的或者基于开源软件增强开发的软件。自研软件使用的编程语言主要包含以下两类：编译型语言：以C++/Go为代表的编译型语言，...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
- 产品推荐
- 这些文档可能帮助您