【Host Rewrite】服务主机重定向
配置主机重定向可以使得在请求发往指定服务主机时，将请求重定向到另一个服务主机。本文介绍如何配置服务主机重定向。前提条件 已完成准备工作，并部署httpbin服务、sleep服务和nginx服务。具体操作，请参见 准备工作。操作步骤 为httpbin...
【Host Rewrite】服务主机重定向
配置主机重定向可以使得在请求发往指定服务主机时，将请求重定向到另一个服务主机。本文介绍如何配置服务主机重定向。前提条件 已完成准备工作，并部署httpbin服务、sleep服务和nginx服务。具体操作，请参见 准备工作。操作步骤 为httpbin...
上云须知
GPU云服务器 是基于GPU应用的计算服务，多适用于AI深度学习、视频处理、科学计算、图形可视化等应用场景。网络规划 容器集群基础设施（云服务器 ECS）的网络类型选择：专有网络VPC或经典网络。专有网络VPC：推荐使用。采用二层隔离，相对...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
基本概念
密钥服务（Key Service）密钥服务为您提供密钥安全存储和生命周期管理、使用密钥进行数据加密和解密、数字签名和验签等密码运算服务。关于密钥服务的更多信息，请参见 密钥服务概述。凭据管理（Secrets Manager）凭据管理为您提供凭据的全...
ASM配置建议
本文介绍ASM的配置建议，包括网格诊断、网关、网格、API、服务治理等，帮助您规避错误的配置。网格诊断 ASM支持对实例进行网格诊断。诊断项包括数据平面版本检查、服务端口检查、服务关联检查等。建议您经常使用网格诊断功能对配置进行诊断...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
神行工具包（DeepGPU）计费
使用神行工具包（DeepGPU）本身不需要额外支付费用，您只需要为执行计算任务过程中使用的阿里云资源（例如云服务器ECS或文件存储NAS）进行付费。神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch ...
通过WebShell登录SQL Server主机并使用SSRS报表服务
您可以在登录主机后使用SSRS（SQL Server Reporting Services）服务管理和操作SQL Server数据库。背景信息 RDS SQL Server提供了WebShell功能，允许用户通过Web界面登录到RDS SQL Server实例的操作系统中，并在该操作系统中执行命令、上传...
异构服务型
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
自助诊断GPU节点问题
ACK集群提供节点级别的GPU诊断功能，供您进行部分GPU相关问题的故障排查。如果您在ACK Pro版集群中使用GPU节点时遇到问题，可以启用GPU节点自助诊断，采集GPU诊断的基础指标进行问题排查。本文介绍如何使用节点诊断功能，自助排查GPU节点...
通过堡垒机访问主机（Windows）
本文介绍通过堡垒机访问Windows操作系统主机的具体操作步骤。前提条件 专属集群MyBase 引擎为SQL Server。专属集群MyBase 已开放OS权限，详情请参见 创建集群。...在资产管理界面，双击您需要登录的已授权服务器主机，登录目标主机。
BS运维操作
与BS运维方式相对的CS运维，指运维人员通过本地客户端工具登录云盾堡垒机，访问目标服务器主机进行运维操作。本文主要介绍BS运维的操作方法。RAM子账号登录 在进行BS运维前，请根据需求设置RAM子账号权限。您可以使用主账号登录 访问控制...
目标规则（Destination Rule）CRD说明
目标规则是服务网格ASM实现流量路由功能的关键资源之一。目标规则定义在路由发生后，发往目标服务的流量策略。目标规则指定了负载均衡、来自Sidecar的连接池大小以及异常检测设置的相关配置，以便从负载均衡池中检测并清除不健康的主机。...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
云服务使用限制索引
使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器服务Kubernetes版 ...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
停止实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍停止ECS实例，以及VPC内实例节省停机模式相关操作。前提条件 实例必须处于 运行中 状态。警告 停止实例会中断您的业务，请谨慎执行。停止包年包月实例 说明...
重启云虚拟主机和云享主机
共享云虚拟主机不支持重启服务器操作，本文主要为您介绍独享版云虚拟主机、轻云服务器以及云享主机的重启操作。注意事项 重启主机大概需要15分钟左右，请您耐心等待。重启过程中您的任何操作将无法生效，请您在重启主机完成后，再进行相应...
计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
获取云虚拟主机的主机信息和站点信息
使用云虚拟主机搭建网站前，请您先了解云虚拟主机的主机信息，包括服务器基本信息、自定义监控报警以及监控信息；然后再获取配置网站过程中用到的云虚拟主机的站点信息，包括网站信息、账号信息以及数据库信息等。背景信息 本文以Linux操作...
安装共享GPU调度组件
ACK Pro集群的实例规格架构设置为 GPU云服务器。其他配置，请参见 创建ACK集群Pro版。已获取集群KubeConfig并通过kubectl工具连接集群。使用限制 请勿将共享GPU调度的节点的CPU Policy设置为 static。cGPU服务的隔离功能不支持以UVM的方式...
基本概念
DeepGPU 阿里云专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集合。AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研的推理AI加速器，可以显著提升推理性能。AIACC-...
功能特性
云虚拟主机 功能集 功能 功能描述 参考文档 购买主机 购买和初始化云虚拟主机 云虚拟主机预装了常见网站开发语言的运行环境、数据库及管理工具，您可以根据网站程序的开发环境、访问规模以及数据量等建站规划，购买适合的云虚拟主机来简单...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
修改主机的服务端口
目前堡垒机对于服务器的RDP和SSH协议使用的是默认端口（RDP协议默认使用3389端口，SSH协议默认使用22端口），如果您在主机中自定义了端口，需要在服务端口中做相应修改。本文档介绍如何修改主机的服务端口。前提条件 在您修改服务端口前，...
概览
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。应用场景 您可以使用主机监控功能查询主机的资源使用情况和故障指标。主机监控的...
ACK支持的GPU机型
GPU计算型gn4 NVIDIA M40 GPU计算型gn5i NVIDIA P4 GPU计算型gn5 NVIDIA P100 GPU计算型gn6e NVIDIA V100 GPU计算型gn6i NVIDIA T4 GPU计算型gn6v NVIDIA V100 GPU计算型gn7i NVIDIA A10 GPU计算型gn7s NVIDIA A30 GPU计算型弹性裸金属...
支持的产品
table VPC级 弹性计算 15款 云服务器ECS 可用区级 部署集ecs_deploymentset 区域级 弹性裸金属服务器(神龙)xdragon 可用区级 GPU云服务器 可用区级 FPGA云服务器 可用区级 专有宿主机DDH 可用区级 弹性伸缩 ESS VPC级 无影云桌面 区域级 ...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
释放实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。前提条件 ...
升级注意事项
升级影响 升级中影响 云虚拟主机独享版和轻云服务器会自动进行重启操作，一般需要5分钟~10分钟，在此期间网站将无法访问。升级后影响 影响备案 用于经营性ICP网站的云虚拟主机必须重新备案，其他业务类型主机则不需要备案。重要 云虚拟主机...
利用DCGM实现GPU的性能分析
NVIDIA GPU上存在一些硬件计数器，这些计数器可以用来收集一些设备级别的性能指标，例如GPU利用率、内存使用情况等。借助NVIDIA提供的NVML（NVIDIA Management Library）库或DCGM（Data Center GPU Manager）工具能够查询这些硬件层提供的...
手动续费
包年包月DDH创建完成后，一直到DDH到期释放前，您都能为DDH...阅读并同意 专有宿主机DDH服务条款。单击 确认订单。按页面提示完成付款。相关文档 关于DDH的计费的详细信息，请参见 计费概述。关于DDH续费说明的更多信息，请参见 续费说明。
按量付费转包年包月
创建一台按量付费DDH实例后，您可以将DDH实例的计费方式转为包年包月，提前预留资源，同时享受更大的价格优惠。前提条件 已创建一台按量付费DDH实例。...查看并选中《专有宿主机DDH服务条款》。单击 确认订单，根据界面提示完成付费操作。
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
- 产品推荐
- 这些文档可能帮助您