directx-device-plugin-windows
关于虚拟化GPU云服务器的详细介绍，请参见 GPU虚拟化型。directx-device-plugin-windows仅支持v1.20.4及其以上版本的ACK集群。使用说明 当使用DirectX设备插件时，directx-device-plugin-windows默认会以DaemonSet工作负载的形式安装。...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
在GPU实例（计算型和虚拟化型）中安装GRID驱动...
相关文档 如果您购买了Linux系统的GPU虚拟化型实例，安装GRID驱动后可应用于AI等通用计算场景或者OpenGL、Direct3D、云游戏等图形加速/渲染场景，具体操作，请参见 在GPU虚拟化型实例中安装GRID驱动（Linux）。如果您需要在创建GPU实例时...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
卸载GRID驱动
在Windows操作系统中卸载GRID驱动 以操作系统为Windows Server 2019的GPU虚拟化型实例vgn6i-vws为例。远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录Windows实例。单击Windows桌面左下角 图标，然后单击 控制面板。在 控制面板...
Tesla或GRID驱动安装指引
创建实例后：通过云助手单独安装GRID驱动（Windows）GPU虚拟化型实例（Linux和Windows）适用的GPU实例：GPU卡为T4、A10的实例（即 vgn6i-vws、sgn7i-vws、vgn7i-vws 实例规格），更多信息，请参见 GPU虚拟化型。推荐安装的驱动：安装GRID...
在GPU虚拟化型实例中安装GRID驱动（Linux）
相关文档 如果您购买了Windows系统的GPU虚拟化型实例，安装GRID驱动后可应用于OpenGL、Direct3D、云游戏等图形加速/渲染场景。具体操作，请参见 在GPU实例（计算型和虚拟化型）中安装GRID驱动（Windows）。如果您需要在创建GPU实例时自动...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
【公告】vgn5i和vgn6i停售通知
升配完成后，您可以通过云助手或者更换镜像方式将实例的GRID驱动升级为SWL GRID驱动，更多信息，请参见 GPU虚拟化型实例规格族vgn5i/vgn6i。重要 自vgn5i和vgn6i实例升配日起到2024年2月1日期间，您可以通过 请 提交工单 获取代金券，用于...
功能特性
GPU容器虚拟化方案eGPU 针对AI作业规模庞大、GPU硬件资源昂贵、集群GPU利用率低等业务场景实际遇到的问题，灵骏支持GPU虚拟化技术eGPU，可有效提升AI集群的GPU利用率，具体如下：支持显存、算力双维度自由切分。支持多个规格。支持动态创建...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
在使用阿里云服务的过程中我应该避免哪些操作？
否则，阿里云可能无法解决由以下违规操作引起的问题：1)Windows系统中的PV Drivers 程序不可删除 PV Drivers程序为服务器虚拟化驱动程序，请不要针对该程序进行任何操作，如果删除会导致服务器出现异常。2)云服务器禁止更改网卡的MAC地址 ...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
指定GPU规格创建Pod
规格类型 GPU规格族 驱动和CUDA版本 GPU虚拟化型实例规格族 sgn7i-vws NVIDIA 470.141.03，CUDA 11.4 vgn7i-vws vgn6i-vws GPU计算型实例规格族 gn7e NVIDIA 470.82.01，CUDA 11.4（默认安装）NVIDIA 525.85.12，CUDA 12.0 gn7i gn7s gn7 ...
指定GPU规格创建Pod
规格类型 GPU规格族 驱动和CUDA版本 GPU虚拟化型实例规格族 sgn7i-vws NVIDIA 470.141.03，CUDA 11.4 vgn7i-vws vgn6i-vws GPU计算型实例规格族 gn7e NVIDIA 470.82.01，CUDA 11.4（默认安装）NVIDIA 525.85.12，CUDA 12.0 gn7i gn7s gn7 ...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
创建和管理CLB虚拟服务器组
说明 如果虚拟服务器组中的云服务器存在关联监听或关联转发策略，需要先解除监听或转发策略的关联关系，才可以删除该云服务器。可单击 继续添加，在 我的服务器 面板来继续添加新的云服务器到该虚拟服务器组中。删除虚拟服务器组 虚拟...
将流量转发到虚拟服务器组
通过视频模式介绍将流量转发给关联的虚拟服务器组中的后端服务器的详细操作。虚拟服务器组是一组 ECS 实例。将虚拟服务器组和一个监听关联后，监听只会将流量转发给关联的虚拟服务器组的后端服务器，不会再将流量转发给其他后端服务器。
图像处理最佳实践
提供GPU共享虚拟化，支持以1/2、独占方式使用GPU，允许业务以更精细化的方式配置GPU实例。效率优先的图像处理场景 屏蔽运维GPU集群的繁重负担（驱动/CUDA版本管理、机器运行管理、GPU坏卡管理），使得开发者专注于代码开发、聚焦业务目标的...
SLB负载均衡的虚拟服务器组添加多个可用区资源
SLB负载均衡的虚拟服务器组挂载资源分布在多个可用区，视为“合规”。应用场景 SLB负载均衡的虚拟服务器组挂载资源分布在多个可用区资源可以提高系统的容灾能力，减少业务中断风险。风险等级 默认风险等级：中风险。当您使用该规则时，可以...
可视化部署传统型负载均衡CLB
CLB添加ECS到虚拟服务器组 场景介绍 CADT支持部署虚拟服务器组，在CLB和虚拟服务器组中创建连线，ECS添加到虚拟服务器组中，可以实现CLB实例、监听和虚拟服务器组的创建以及与ECS之间关联关系的配置。部署架构 架构说明：将ECS放入虚拟...
AttachVServerGroups-添加负载均衡实例下虚拟服务器组
确定伸缩组内虚拟服务器组时，需要同时指定以下属性：负载均衡实例 ID（LoadBalancerId）虚拟服务器组 ID（VServerGroupId）虚拟服务器组端口号（Port）如果通过不同的端口号将同一虚拟服务器组添加至伸缩组，视为伸缩组内添加了多个虚拟...
使用URL实现应用实例分组的流量分发
为应用分组配置虚拟服务器组（虚拟分组）和基于URL的转发策略包含以下两种方式：如果想使用为选定的SLB实例创建过的虚拟服务器组，请执行以下操作：选择 现有虚拟服务器组，并在下方选择已有的虚拟服务器组。重要 同一个虚拟服务器组只允许...
AttachVServerGroups
确定伸缩组内虚拟服务器组时，需要同时指定以下属性：负载均衡实例ID（LoadBalancerId）虚拟服务器组ID（VServerGroupId）虚拟服务器组端口号（Port）如果通过不同的端口号将同一虚拟服务器组添加至伸缩组，视为伸缩组内添加了多个虚拟...
SAE和ECS侧通过网关路由实现混合部署
如果您有应用需同时在 SAE ...图例中将来自 www.example.com 的请求转发至虚拟服务器组 ingress/8089/*（后端服务器类型为 SAE），以及将来自 www.example.com/test 的请求转发至虚拟服务器组 clb-test-sae（后端服务器类型为云服务器ECS）。
相同域名不同路径的流量转发
您可以将来自相同域名不同路径的请求转发给不同的后端服务器组，合理分配服务器资源。背景信息 说明 只有7层监听（HTTPS或HTTP协议）支持配置转发策略。本教程以四个部署了Nginx服务器的ECS为例，演示如何通过配置域名加URL转发规则，完成...
DetachVServerGroups-移除一个或者多个虚拟服务器组
接口说明 确定待移除的虚拟服务器组时，需要同时指定以下参数：负载均衡实例 ID（LoadBalancerId）虚拟服务器组 ID（VServerGroupId）虚拟服务器组端口号（Port）如果请求参数中的虚拟服务器组与伸缩组中的虚拟服务器组相匹配，则移除该...
通过CCM跨集群部署服务
操作步骤 登录 传统型负载均衡CLB控制台，创建服务器为空的虚拟服务器组，记录虚拟服务器组的分组ID。具体操作，请参见 创建和管理虚拟服务器组。为CLB实例创建监听并关联上一步创建的虚拟服务器组，记录实例的ID。具体操作，请参见 监听...
API概览
虚拟服务器组 API 标题 API概述 CreateVServerGroup 创建虚拟服务器组并添加后端服务器 创建虚拟服务器组并向指定的服务器组中添加后端服务器。DeleteVServerGroup 删除虚拟服务器组 删除虚拟服务器组。SetVServerGroupAttribute 修改虚拟...
DetachVServerGroups
接口说明 确定待移除的虚拟服务器组时，需要同时指定以下参数：负载均衡实例ID（LoadBalancerId）虚拟服务器组ID（VServerGroupId）虚拟服务器组端口号（Port）如果请求参数中的虚拟服务器组与伸缩组中的虚拟服务器组相匹配，则移除该虚拟...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
CLB使用约束
SAE网关路由功能还支持为您创建需要关联的虚拟服务器组，您对该虚拟服务器有完全的操作权限。对于SAE创建的监听或虚拟服务器组，不建议您进行任何的修改或引用，否则对您的业务有一定的影响。如果您需要进行修改，请检查操作的合法性，合法...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
CLB使用约束
SAE网关路由功能还支持为您创建需要关联的虚拟服务器组，您对该虚拟服务器有完全的操作权限。对于 SAE 创建的监听或虚拟服务器组，不建议您进行任何的修改或引用，否则对您的业务有一定的影响。如果您需要修改，请检查操作的合法性，合法性...
后端服务器概述
后端服务器简介 负载均衡服务通过设置虚拟服务地址，将添加的同一地域的多台后端服务器虚拟成一个高性能、高可用的应用服务池。您也可以通过虚拟服务器组或主备服务器组管理后端服务器。不同的监听可以关联不同的服务器组，这样一个负载...
使用域名或URL实现流量分发（共享负载均衡实例）
新建虚拟服务器组 如果没有为选定的SLB实例配置过虚拟服务器组，或想为当前应用配置一个新的虚拟服务器组，请执行以下操作：选择 新建虚拟服务器组，并输入 虚拟服务器组名称。选择 新增转发策略，并在 转发策略 右侧的文本框中输入域名和...
- 产品推荐
- 这些文档可能帮助您