云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
GPU云服务器
GPU云服务器提供GPU加速计算能力，实现GPU计算资源的即开即用和弹性伸缩。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力与CPU计算力，满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求。
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
安装并使用DeepNCCL
开发人员可以根据实际业务情况，在不同的GPU云服务器上安装DeepNCCL通信库，以加速分布式训练或推理性能。本文主要介绍在Ubuntu或CentOS操作系统的GPU实例上安装和使用DeepNCCL的操作方法。说明 关于DeepNCCL的更多信息，请参见 什么是AI...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
使用WinSCP连接服务器
通过密钥对连接服务器 为待连接的Linux服务器创建密钥。具体操作，请参见 操作步骤。说明 如果您已为服务器创建密钥，可以忽略本步骤。打开WinSCP工具，配置密钥对。打开工具后，会自动弹出 登录 对话框，单击 会话 区域的 高级(A).如果...
CREATE SERVER
外部服务器通常包含了外部数据包装器用来访问一个外部数据源所需的连接信息。额外的用户相关的连接信息可以通过用户映射的方式来指定。服务器名称在数据库中必须唯一。创建服务器要求使用外部数据包装器上的USAGE特权。在使用 DBLink 模块...
CREATE SERVER
外部服务器通常包含了外部数据包装器用来访问一个外部数据源所需的连接信息。额外的用户相关的连接信息可以通过用户映射的方式来指定。服务器名称在数据库中必须唯一。创建服务器要求使用外部数据包装器上的USAGE特权。在使用 DBLink 模块...
堡垒机实例如何通过内网IP登录ECS服务器
概述 本文主要介绍在阿里云堡垒机实例中，如何通过内网IP登录ECS服务器。详细信息 您可以根据版本不同，通过以下方式进行设置，实现通过内网IP登录ECS服务器：V3.2版本操作如下：通过导入ECS实例方式导入的ECS服务器，默认是使用内网IP登录...
dblink_ora 函数和存储过程
第二种形式的 dblink_ora_connect()函数您使您可以在与服务器建立连接时使用预定义的外部服务器的连接属性。在调用第二种形式的 dblink_ora_connect()函数之前，使用 CREATE SERVER 命令将链接的连接属性存储到系统表中。调用 dblink_ora_...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
搭建LAMP开发环境（通过应用镜像）
在远程连接的服务器命令行中，执行以下命令，查看应用的相关信息。sudo cat/root/ReadMe LAMP镜像的版本不同，查看到应用相关消息略有不同。本文以LAMP 7.4为例，您可以获取镜像中预装的数据库管理密码以及FTP用户密码信息。鼠标选中应用...
Windows实例中Windows Update自动更新相关配置说明
阿里云WSUS更新服务器的介绍 阿里云Windows实例的默认组策略配置中，更新源为阿里云内部的Windows WSUS更新服务器，而非微软官方的Internet Windows Update服务器。这是因为在极个别情况下，安全更新可能会带来潜在问题。为了预防发生此类...
使用DMS连接服务器中的数据库
当您需要对轻量应用服务器中预置或自行安装的数据库进行维护时，推荐您使用阿里云的数据管理DMS。本文以WordPress应用镜像中预置的MySQL为例，介绍如何使用DMS连接服务器中的数据库。前提条件 已创建WordPress服务器。具体操作，请参见 ...
API说明及外部监听事件
CGHid requestRegionList 请求当前游戏可以连接的服务器节点 getCurrentRegion 游戏页中，获取当前游戏连接的服务器节点 getVersion 获取SDK的版本号 loadPlugin 加载远程游戏插件 getGameSession 获取当前游戏会话（用于联机）外部监听...
使用ECShop镜像搭建小型电商网站
在远程连接的服务器命令行中执行以下命令，查看应用的相关信息。sudo cat/root/password.txt 您可以获取镜像中预装的数据库管理密码、网站首页、网站后台与管理员密码的信息。鼠标选中应用信息，单击鼠标右键，然后单击复制，将信息粘贴至...
网络质量任务错误码
本文介绍了云拨测网络质量任务的错误码和对应的错误说明。错误码 说明 详细说明 601 Ping测试时找不到主机 Ping测试需要先进行DNS解析，把待Ping的域名解析成IP，然后...625 服务器拒绝连接 TCP Ping的时候，服务器对应端口没开，报此错误码。
sccgn系列实例使用说明及验证
为进一步优化神龙架构GPU服务器的网络性能，阿里云推出了GPU计算型超级计算集群实例规格族，即sccgn系列实例，该系列机型具备了超强的计算能力和网络通信能力。本文为您介绍sccgn系列实例的使用说明及性能验证。使用说明 sccgn系列机型同时...
设备签名
过程中输出参数的各个成员含义如下：成员名 含义 sign_mqtt.hostname 可以连接的MQTT服务器域名地址，根据入参 region 自动计算。sign_mqtt.port 可以连接的MQTT服务器端口号，根据标准MQTT协议一般是1883或443。sign_mqtt.username 连接...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
通过密码认证登录Windows实例
192.168.1.1 需要远程连接的服务器IP地址。需要替换为您的Windows实例的公网IP地址或EIP地址。d 域名，例如域名为INC，那么参数就是-d inc。r 多媒体重新定向。例如：开启声音：r sound。使用本地的声卡：r sound:local。开启U盘：r disk:...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
负载均衡调度算法介绍
负载均衡会根据配置的调度算法，将来自客户端的请求按照对应的算法规则转发至相应的后端服务器。负载均衡支持轮询、加权轮询、加权最小连接数、一致性哈希等多种调度算法，用于支持不同的业务场景。本文列出所有负载均衡系列产品支持的调度...
RejectVpcPeerConnection-拒绝VPC对等连接
拒绝连接请求的 VPC 对等连接实例变为 已拒绝状态。RejectVpcPeerConnection 不支持对同一个对等连接实例并发发起拒绝连接请求。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以...
远程连接Windows服务器
前提条件 待连接的Windows服务器的状态为 运行中。已设置服务器密码。具体操作，请参见 设置或重置服务器密码。操作步骤 轻量应用服务器的管理控制台提供了WorkBench和VNC远程连接方式，您也可以在本地Windows环境中，通过Windows自带的...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
- 产品推荐
- 这些文档可能帮助您