什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
DNS服务器状态
概述 登录 云解析DNS控制台，进入 域名解析 页面 权威域名 页签下，可查看到 DNS服务器地址 状态的检测提醒，分别包含如下四个状态：DNS服务器状态 状态说明 域名的DNS信息未查询到 指云解析未查询到域名的DNS配置信息；可能的原因：域名未...
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
安装客户端
使用默认命令 云安全中心为阿里云服务器和云外主机提供了默认安装命令，您可以按照服务器操作系统类型复制对应的默认安装命令，使用管理员账号在服务器中执行该命令安装客户端。说明 使用默认安装命令安装的服务器分组为未分组，您可以在...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
解析不生效类问题FAQ
答：一般DNS解析不生效多是本地DNS服务器缓存未刷新导致，需要注意的是，客户本地DNS服务器（也称缓存DNS服务器）不在云解析DNS 服务的控制范围内，缓存DNS服务器是根据您设置的TTL时间，来缓存您的DNS解析记录。请参与 解析生效时间FAQ ...
配置云助手Agent网络权限
本文介绍如何为 云助手Agent 所在实例配置安全组规则，从而更方便地管理 云助手Agent 的网络权限。背景信息 为了确保您正常使用云助手，实例需要能访问相关的服务域名或IP地址才能完成您指定的动作，例如执行云助手命令。您需要允许以下出...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
应用场景
服务器迁移主要应用于服务器迁移上云场景，您可将单台或多台源服务器迁移至阿里云。迁移服务器时，可完整复制源系统的数据，不会修改源系统数据。本文主要介绍服务器迁移的应用场景。自建IDC机房迁移至阿里云 IDC机房服务器老化、运维繁琐...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
AD域网络环境中的客户端主机无法访问阿里云内网服务，...
若DC上部署的DNS服务器不能解析阿里云的内网服务网络，则会造成整个AD域环境下的客户端主机都无法访问阿里云的内网服务，例如NTP、KMS和WSUS等服务。解决方案 说明 本文操作步骤以Windows Server 2012 R2数据中心版64位中文版为例，实际...
如何为备份客户端设置代理服务器
由于Apache HTTP服务器不属于云备份的服务范畴，此搭建方法仅供参考。背景信息 当使用备份保护的机器无法访问公网时，您需要为备份客户端配置代理服务器。步骤1：准备代理服务器 准备一台可以访问公网的机器以配置代理服务。安装Visual C++...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
自定义镜像概述
导入镜像 更新镜像 基于 系统运维管理 OOS（CloudOps Orchestration Service）一键更新镜像，更新云服务器ECS实例内部的软件、配置等。更新自定义镜像 复制镜像 通过复制镜像跨地域部署ECS实例、同地域或者跨地域变更加密镜像与非加密镜像...
资产中心常见问题
本文汇总了云安全中心资产中心页面的常见问题。如何解绑（释放）非阿里云资产？对于无需防护的非阿里云服务器，您可通过云安全中心手动解除绑定。更多信息，请参见 修改服务器的保护...解绑云外服务器的具体操作，请参见 解绑非阿里云服务器。
GPU自助诊断
ECS管理控制台支持配置 GPU设备健康检查 功能，通过该功能可以对当前实例的GPU卡状态或驱动状态进行全方位诊断，方便您自行诊断当前实例的GPU卡或驱动是否存在异常，帮助您及时发现和解决存在的常见问题。前提条件 已创建GPU实例且该实例...
产品优势
服务器迁移可将您的单台或多台迁移源迁移至阿里云，本文主要介绍服务器迁移的优势。支持多平台、多环境迁移 支持多种Windows和Linux操作系统版本。更多信息，请参见 SMC支持的操作系统版本。支持将源服务器从自建IDC机房、本地虚拟机...
变更云盘类型
ESSD云盘PL1变配到ESSD云盘PL2 ESSD云盘PL1变配到ESSD云盘PL3 ESSD云盘PL2变配到ESSD云盘PL3 ESSD云盘PL1变配到ESSD AutoPL云盘 说明 如果变配到ESSD云盘，需要确认实例规格是否支持ESSD云盘。更多信息，请参见 实例规格族。如果实例规格不...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
自定义镜像概述
当轻量应用服务器的配置不能再满足您的业务需要、或者您期望使用云服务器ECS部署业务时，您可以通过共享镜像将业务从轻量应用服务器转移至云服务器ECS。共享自定义镜像 取消共享自定义镜像 当您不再需要共享自定义镜像或者需要删除自定义...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
服务器迁移指引
最佳实践 SMC提供了不同源环境的服务器迁移至阿里云的最佳实践。具体操作，请参见 各源环境迁移至阿里云。相关文档 迁云工具提供免费的迁云专家支持服务。更多信息，请参见 联系我们。SMC API使用说明，请参见 API 概览。SMC SDK使用示例，...
【通知】停止支持防护Windows Server 2003服务器
尊敬的阿里云用户：云安全中心将于北京时间2023年04月28日起停止支持防护操作系统版本为Windows Server 2003的服务器。云安全中心支持防护的服务器操作系统详情，请参见 Agent支持的操作系统。给您带来不便，敬请谅解。感谢您对阿里云的...
释放云盘
如果您不再需要某块云盘，并且需要停止云盘计费，可以释放云盘。释放后，存储在云盘上的数据会被全部释放，云盘停止计费。本文介绍如何通过ECS管理控制台手动释放或自动释放云盘。前提条件 如果云盘中存储了有效数据，建议您创建快照以备份...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
创建一个云盘快照
快照是一种无代理（Agentless）的数据备份方式，支持为单个云盘或者云盘组上的数据块创建某个时刻的完整拷贝。当您在进行回滚云盘、修改关键系统文件、更换操作系统等重要操作之前，建议提前创建快照做数据备份，提高操作容错率，确保数据...
升级或禁止升级云助手Agent
若当前版本的云助手不支持某一功能，您可能需要升级 云助手Agent，本文介绍如何升级和禁止升级 云助手Agent。云助手支持的功能与支持该功能的云助手最低版本号，请参见 安装云助手Agent。使用限制 需要升级 云助手Agent 的ECS实例处于 运行...
赋值运算符
本文介绍了 PolarDB-X 支持及不支持的赋值运算符。PolarDB-X 支持 '=' 赋值运算符，一般在UPDATE的SET部分出现。PolarDB-X 暂不支持 ':=' 赋值运算符。
步骤一：扩容云盘容量
当云盘（系统盘或数据盘）使用空间不足时，您可以在ECS控制台上扩容云盘的容量以增加存储空间。本文为您介绍如何通过在线扩容（扩容完无需重启实例）和离线扩容（扩容完需要重启实例）两种方式扩容云盘容量。前提条件 请确保实例满足以下...
- 产品推荐
- 这些文档可能帮助您