创建GPU实例
GPU实例在大规模并行计算或者图形渲染场景下，具有较强的计算能力和图形处理能力。使用GPU实例可以为您的业务提供更好的计算性能或者满足专业级图形设计需求，本文为您介绍如何创建GPU实例。操作步骤 前往 实例创建页。选择 自定义购买 页...
ECS选型最佳实践
更多信息，请参见以下文档：通过ECS控制台查看监控信息 查看云盘监控信息 概览 使用云服务器ECS的过程中，如果发生地域库存不足、实例规格族停售、修改为更高性价比规格族、升级配置等情况，您可以根据实例规格族的特点进行变配。...
使用Megatron-Deepspeed训练GPT-2并生成文本
本文介绍如何使用GPU云服务器，使用Megatron-Deepspeed框架训练GPT-2模型并生成文本。背景信息 GPT-2模型是OpenAI于2018年在GPT模型的基础上发布的新的无监督NLP模型，当时被称为“史上最强通用NLP模型”。该模型可以生成连贯的文本段落，...
实例FAQ
本章节汇总了使用云服务器ECS实例时的常见问题。购买实例问题 如何查看某个地域或可用区是否能购买实例？购买实例时，资源已经售罄怎么办？如何选择适合我业务的ECS实例？购买ECS实例如何付款？开通一台云服务器需要多久？购买实例付款成功...
产品优势
对比项 弹性容器实例 云服务器ECS 弹性裸金属服务器 成本 只为Pod付费，节约成本。为ECS整体付费。为裸金属服务器整体付费。运维 无需管理节点，运维简单，成本低。需要自行管理节点，运维ECS。需要自行管理节点，运维裸金属服务器。性能 ...
支持的云服务
什么是弹性伸缩ESS 云助手 云助手是专为云服务器ECS打造的原生自动化运维工具，通过免密码、免登录、无需使用跳板机的形式，在ECS实例上实现批量运维、执行命令（Shell、PowerShell和Bat等）和发送文件等操作。典型的使用场景包括：安装卸...
实例规格族
trans 视觉计算型实例规格族ebmgi6s GPU计算型实例规格族gn5 GPU计算型实例规格族gn5i 弹性裸金属服务器规格族群 推荐 其他在售（如果售罄，建议使用推荐规格族）GPU计算型弹性裸金属服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
CLB健康检查工作原理
负载均衡通过健康检查来判断后端服务器的业务可用性。开启健康检查功能后，当某台后端服务器健康检查出现异常时，负载均衡会自动将新的请求分发到其他健康检查正常的后端服务器上；而当该后端服务器恢复正常运行时，负载均衡会将其自动恢复...
新功能发布记录
2022-07-12 部分 导入自定义镜像 镜像检测概述 通过阿里云客户端连接实例 阿里云客户端是由阿里云官方推出的客户端工具，提供了对云服务器ECS、弹性容器实例ECI、轻量应用服务器、阿里云托管实例的资源浏览、查找、远程连接等功能。...
已停售的实例规格
3 8 高主频计算型实例规格族c4、ce4、cm4 c4、ce4、cm4的特点如下：处理器：3.2 GHz主频的Intel Xeon E5-2667 v4（Broadwell）处理器 计算性能稳定 I/O优化实例 仅支持SSD云盘和高效云盘 实例网络性能与计算规格对应（规格越高网络性能越强...
休眠实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。如果您在某个时间段内无需运行ECS实例，也不会执行某些操作（如升降配等），建议您休眠ECS实例。相比停止实例，休眠实例后再次启动实例，ECS实例会自动恢复至休眠前...
使用云原生AI监控大盘
节点监控大盘有以下可供您查看的指标：GPU Node Details：以表格的形式展示集群节点的相关信息，包括：节点名称（Name）节点在集群中的IP（IP）节点在集群中的角色（Role）节点的状态（Status）GPU模式：独占或共享（GPU Mode）节点拥有GPU...
在七代安全增强型实例中部署PyTorch深度学习模型
该模型通常被部署于云服务供应商提供的云服务器如阿里云ECS。如何确保这些部署于公有云上的模型不被他人窃取，确保可用不可见，是模型所有者和云服务提供商共同面临的话题。阿里云ECS部分安全增强型实例基于Intel ® SGX（Software Guard ...
什么是AI通信加速库Deepnccl
Deepnccl是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍Deepnccl的架构、优化原理和性能说明。产品简介 Deepnccl基于NCCL（NVIDIA Collective ...
图像度量学习训练（raw）
前提条件 已开通OSS并完成授权，详情请参见 开通OSS服务 和 云产品依赖与授权：Designer。功能限制 支持的计算引擎为DLC。算法简介 图像度量学习训练（raw）组件提供了resnet50、resnet18、resnet34、resnet101、swint_tiny、swint_small、...
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
高性能能力
PolarDB PostgreSQL版（兼容Oracle）的高性能特点主要通过跨节点并行执行能力和优化器来体现。HTAP跨节点并行执行能力 PolarDB PostgreSQL版（兼容Oracle）支持分析型查询，通过分布式并行计算技术，多个RO点并行执行SQL查询，充分发挥共享...
搭建Linux环境GRID驱动的License Server
步骤三：安装并运行Apache Tomcat服务器 使用Linux发行版的软件包管理器安装所需的Apache Tomcat软件包。sudo apt install tomcat8 安装完成后，运行以下命令，将Tomcat服务设置为开机自启动。sudo systemctl enable tomcat8.service 启动...
搭建Windows环境GRID驱动的License Server
安装GRID驱动，然后添加License服务器并激活License。具体操作，请参见 在GPU实例（计算型和虚拟化型）中安装GRID驱动（Windows）。激活License时，请填写您搭建了License Server的ECS实例公网IP，端口号为7070。前往License Server管理...
在GPU实例上使用RAPIDS加速机器学习任务
本文介绍了如何在GPU实例上基于NGC环境使用RAPIDS加速库，加速数据科学和机器学习任务，提高计算资源的使用效率。背景信息 RAPIDS（全称Real-time Acceleration Platform for Integrated Data Science）是NVIDIA针对数据科学和机器学习推出...
软件概述
E-HPC提供了业界主流的科学计算应用、编译器运行时库、MPI通信库等软件，本文介绍E-HPC支持的软件，以及相关软件的应用场景等。E-HPC软件栈 本文列出支持自动部署的软件，您也可以通过自定义镜像的方式自行部署其他需要的软件。软件列表 ...
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
DescribeInstanceTypes-查询云服务器ECS提供的实例...
调用DescribeInstanceTypes查询云服务器ECS提供的所有实例规格的信息，也可以查询指定实例规格的信息。接口说明 调用接口前，您需要注意：MaxResults（每页最大条目数）参数的最大值为 100，对于在 2022 年调用过本 API 的用户，MaxResults...
产品规格
ecs.sccgn6.24xlarge 处理器：2.5 GHz主频的Intel ® Xeon ® Gold 6149（Skylake）vCPU：96 内存：384GiB GPU：8*Nvidia Tesla V100 以太网：30Gbit/s RDMA：50Gbit/s 高效云盘 ESSD云盘 SSD云盘 需要GPU参与的单机或多机并行计算业务，如...
GPU FAQ
排查GPU监控常见问题 修复GPU实例重启或被置换后设备ID变更问题 阿里云容器服务是否支持GPU虚拟化型（vGPU）实例？如何在已有集群的GPU节点上手动升级Kernel？修复GPU节点容器启动问题 裸金属实例ecs.ebmgn7节点添加失败怎么办？Alibaba ...
接入NVIDIA GPU监控数据
您可使用Telegraf采集NVIDIA GPU监控数据，再通过日志服务Logtail将Telegraf数据上传到MetricStore中，搭建NVIDIA GPU可视化监控方案。本文介绍如何通过日志服务来完成NVIDIA GPU监控数据的采集和可视化。前提条件 已创建Project和...
部署Mantis开源缺陷跟踪系统
缺陷管理是软件开发过程中的必要环节，您可以使用Mantis开源缺陷跟踪系统进行缺陷管理，Mantis系统具有简单易用、功能强大等特点。本文将介绍如何使用轻量应用服务器部署Mantis开源缺陷跟踪系统。前提条件 已搭建LAMP环境，并获取MySQL数据...
基本概念
它是一种为图像和图形运算工作优化的微处理器，适用于大规模并行计算等场景。VM Virtual Machine，虚拟机，指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。云边一体 云边一体，又叫云边协同，其中...
实例元数据
普通模式和加固模式 的区别 对比项 普通模式 加固模式 交互方式 请求/响应 会话 鉴权方式 同VPC内源IP地址鉴权 同VPC内源IP地址鉴权+元数据服务器访问凭证鉴权 该访问凭证具有以下特点：短时效性：访问凭证有效期，且最长为6小时，超过有效...
最佳实践概览
源服务器迁移至轻量应用服务器 服务器迁移中心支持将其他厂商轻量服务器（腾讯云轻量应用服务器、AWS Lightsail Instance和华为云云耀云服务器）迁移至阿里云轻量应用服务器。高可用架构 轻量应用负载均衡可以将公网访问的流量分发到后端的...
密码机类型
0.006秒 SM2 PKCS#1 Raw裸验签运算性能：1,300次/秒，响应时间：0.018秒 RSA2048 PKCS#7 Attached带原文的签名运算性能：350次/秒，响应时间：0.78秒 RSA2048 PKCS#7 Attached带原文的验签运算性能：1,500次/秒，响应时间：0.025秒 RSA2048...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
使用AIACC-Training MXNet版
示例命令如下：perseusrun-np 8-H localhost:8 python$examples_path/mxnet_mnist.py 适配MXNet 适配基于KVStore的API 为了支持InsightFace中特殊的数据+模型并行，Perseus KVStore增加了如下API：local_rank：返回当前GPU worker在本节点...
部署高可用架构应用集群
步骤四：修改数据库服务器中数据库的权限 当前已成功创建两台应用服务器（服务器A 与 服务器B），为确保应用服务器与数据库服务器进行数据传输时的安全性，建议您将数据库服务器C中的MySQL访问权限，由 所有人 修改 指定IP，并指向两台应用...
高可用架构部署方案
高可用架构特点 高可用架构具有如下特点：使用多可用区高可用版的负载均衡CLB（Classic Load Balancer）对多台云服务器ECS进行流量分发，可扩展应用系统对外服务能力、消除单点故障，提升应用系统的可用性。使用CLB自动跨可用区部署，可...
使用限制
本文介绍 函数计算 在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。...
- 产品推荐
- 这些文档可能帮助您