ECS选型最佳实践
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。重要 本文主要介绍如何选择企业级实例规格族，不包括入门级（共享型）规格族。有关入门级实例选型，请参见 共享型 或 突发性能实例概述。了解实例规格族 实例规格清单：实例规格族...
使用Megatron-Deepspeed训练GPT-2并生成文本
本文介绍如何使用GPU云服务器，使用Megatron-Deepspeed框架训练GPT-2模型并生成文本。背景信息 GPT-2模型是OpenAI于2018年在GPT模型的基础上发布的新的无监督NLP模型，当时被称为“史上最强通用NLP模型”。该模型可以生成连贯的文本段落，...
已停售的GPU实例规格
2.5 GHz主频的Intel ® Xeon ® Platinum 8163（Skylake），计算性能稳定 存储：I/O优化实例 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘 支持高性能并行文件系统CPFS 网络：支持IPv6 支持专有网络VPC 支持RoCE V2网络，用于低...
实例FAQ
本章节汇总了使用云服务器ECS实例时的常见问题。购买实例问题 如何查看某个地域或可用区是否能购买实例？购买实例时，资源已经售罄怎么办？如何选择适合我业务的ECS实例？购买ECS实例如何付款？开通一台云服务器需要多久？购买实例付款成功...
产品优势
对比项 弹性容器实例 云服务器ECS 弹性裸金属服务器 成本 只为Pod付费，节约成本。为ECS整体付费。为裸金属服务器整体付费。运维 无需管理节点，运维简单，成本低。需要自行管理节点，运维ECS。需要自行管理节点，运维裸金属服务器。性能 ...
支持资源组的云服务
云服务 云服务代码 控制台 API 资源类型 资源元数据 相关文档 云服务器ECS、FPGA云服务器、GPU云服务器、块存储 ecs 是 是 ddh：DDH 资源ID、资源名称、标签 云服务转组API：JoinResourceGroup 统一转组API：MoveResources 控制台：资源组 ...
从0快速搭建个人版“对话大模型”
本教程介绍如何在阿里云GPU云服务器上基于 Alpaca大模型 快速搭建个人版“对话大模型”。背景信息 Alpaca大模型 是一款基于LLaMA的大语言模型，它可以模拟自然语言进行对话交互，并协助用户完成写作、翻译、编写代码、生成脚本等一系列创作...
支持的云服务
什么是弹性伸缩ESS 云助手 云助手是专为云服务器ECS打造的原生自动化运维工具，通过免密码、免登录、无需使用跳板机的形式，在ECS实例上实现批量运维、执行命令（Shell、PowerShell和Bat等）和发送文件等操作。典型的使用场景包括：安装卸...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
已停售的实例规格
处理器：3.2 GHz主频的Intel Xeon E5-2667 v4（Broadwell）处理器 计算性能稳定 I/O优化实例 仅支持SSD云盘和高效云盘 实例网络性能与计算规格对应（规格越高网络性能越强）适用场景：高性能Web前端服务器 高性能科学和工程应用 MMO游戏、...
CLB健康检查工作原理
负载均衡通过健康检查来判断后端服务器的业务可用性。开启健康检查功能后，当某台后端服务器健康检查出现异常时，负载均衡会自动将新的请求分发到其他健康检查正常的后端服务器上；而当该后端服务器恢复正常运行时，负载均衡会将其自动恢复...
休眠实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。如果您在某个时间段内无需运行ECS实例，也不会执行某些操作（如升降配等），建议您休眠ECS实例。相比停止实例，休眠实例后再次启动实例，ECS实例会自动恢复至休眠前...
在七代安全增强型实例中部署PyTorch深度学习模型
该模型通常被部署于云服务供应商提供的云服务器如阿里云ECS。如何确保这些部署于公有云上的模型不被他人窃取，确保可用不可见，是模型所有者和云服务提供商共同面临的话题。阿里云ECS部分安全增强型实例基于Intel ® SGX（Software Guard ...
图像度量学习训练（raw）
前提条件 已开通OSS并完成授权，详情请参见 开通OSS服务 和 云产品依赖与授权：Designer。功能限制 支持的计算引擎为DLC。算法简介 图像度量学习训练（raw）组件提供了resnet50、resnet18、resnet34、resnet101、swint_tiny、swint_small、...
计费常见问题
本文汇总了轻量应用服务器计费的常见问题。轻量应用服务器的计费项有哪些？轻量应用服务器的计费项主要包括套餐配置费用、数据盘费用、超额流量费用。更多信息，请参见 计费项。创建快照和自定义镜像是否收费？在轻量应用服务器中创建快照...
产品规格
ecs.sccgn6.24xlarge 处理器：2.5 GHz主频的Intel ® Xeon ® Gold 6149（Skylake）vCPU：96 内存：384GiB GPU：8*Nvidia Tesla V100 以太网：30Gbit/s RDMA：50Gbit/s 高效云盘 ESSD云盘 SSD云盘 需要GPU参与的单机或多机并行计算业务，如...
搭建Linux环境GRID驱动的License Server
步骤三：安装并运行Apache Tomcat服务器 使用Linux发行版的软件包管理器安装所需的Apache Tomcat软件包。sudo apt install tomcat8 安装完成后，运行以下命令，将Tomcat服务设置为开机自启动。sudo systemctl enable tomcat8.service 启动...
搭建Windows环境GRID驱动的License Server
安装GRID驱动，然后添加License服务器并激活License。具体操作，请参见 在GPU实例（计算型和虚拟化型）中安装GRID驱动（Windows）。激活License时，请填写您搭建了License Server的ECS实例公网IP，端口号为7070。前往License Server管理...
升级配置
随着业务的发展，已购买的服务器资源可能出现不再满足业务需求的情况。您可以根据本文的操作说明升级轻量应用服务器的配置。背景信息 建议您在升级前为轻量应用服务器云盘创建快照，做好数据备份。具体操作，请参见 创建快照。警告 升级...
在GPU实例上使用RAPIDS加速机器学习任务
本文介绍了如何在GPU实例上基于NGC环境使用RAPIDS加速库，加速数据科学和机器学习任务，提高计算资源的使用效率。背景信息 RAPIDS（全称Real-time Acceleration Platform for Integrated Data Science）是NVIDIA针对数据科学和机器学习推出...
软件概述
E-HPC提供了业界主流的科学计算应用、编译器运行时库、MPI通信库等软件，本文介绍E-HPC支持的软件，以及相关软件的应用场景等。E-HPC软件栈 本文列出支持自动部署的软件，您也可以通过自定义镜像的方式自行部署其他需要的软件。软件列表 ...
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
开启时空并行查询
对于服务器内存有限的高并发访问，开启并行查询时，需要控制参数work_mem（min 64KB)，确保并发访问数量乘以并行worker数量乘以work_mem不超过服务器内存的60%。使用方法 开启Ganos并行查询的方法如下：修改PostgreSQL配置文件postgresql....
DescribeInstanceTypes-查询云服务器ECS提供的实例...
调用DescribeInstanceTypes查询云服务器ECS提供的所有实例规格的信息，也可以查询指定实例规格的信息。接口说明 调用接口前，您需要注意：MaxResults（每页最大条目数）参数的最大值为 100，对于在 2022 年调用过本 API 的用户，MaxResults...
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
GPU FAQ
排查GPU监控常见问题 可用的GPU数目少于实际GPU数目 GPU节点中重启Kubelet和Docker服务异常 修复GPU实例重启或被置换后设备ID变更问题 阿里云容器服务是否支持GPU虚拟化型（vGPU）实例？如何在已有集群的GPU节点上手动升级Kernel？修复GPU...
接入NVIDIA GPU监控数据
您可使用Telegraf采集NVIDIA GPU监控数据，再通过日志服务Logtail将Telegraf数据上传到MetricStore中，搭建NVIDIA GPU可视化监控方案。本文介绍如何通过日志服务来完成NVIDIA GPU监控数据的采集和可视化。前提条件 已创建Project和...
退款说明
如果您购买轻量应用服务器后需要退订，阿里云将基于退订规则退还资源并退还相应的款项，您可以通过退订管理对轻量应用服务器进行退订操作。本文为您介绍轻量应用服务器的退款说明及退订流程。注意事项 在退款时只退还您的实付金额，不包含...
基本概念
它是一种为图像和图形运算工作优化的微处理器，适用于大规模并行计算等场景。VM Virtual Machine，虚拟机，指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。云边一体 云边一体，又叫云边协同，其中...
什么是AI通信加速库Deepnccl
Deepnccl是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍Deepnccl的架构、优化原理和性能说明。产品简介 Deepnccl基于NCCL（NVIDIA Collective ...
异构服务型
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
密码机类型
0.006秒 SM2 PKCS#1 Raw裸验签运算性能：1,300次/秒，响应时间：0.018秒 RSA2048 PKCS#7 Attached带原文的签名运算性能：350次/秒，响应时间：0.78秒 RSA2048 PKCS#7 Attached带原文的验签运算性能：1,500次/秒，响应时间：0.025秒 RSA2048...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
使用AIACC-Training MXNet版
示例命令如下：perseusrun-np 8-H localhost:8 python$examples_path/mxnet_mnist.py 适配MXNet 适配基于KVStore的API 为了支持InsightFace中特殊的数据+模型并行，Perseus KVStore增加了如下API：local_rank：返回当前GPU worker在本节点...
使用限制
本文介绍 函数计算 在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。...
使用eGPU Kubernetes组件
eGPU是容器虚拟化方案，可直接用于支持云原生资源平台，为大规模集群提供GPU共享能力。为了在Kubernetes集群中使用eGPU共享GPU资源，需要通过以下步骤安装eGPU device plugin使能GPU虚拟化的调度能力。前提条件 Docker推荐19.03.5及以上...
计费概述
无影云Flow 支持 会话时长包计费方式。本文介绍具体的计费公式、计费组成、计费周期和支付方式等。付费方式 无影云Flow 支持以下付费方式：会话时长包：一种预付费模式，即先付费再使用。费用=会话时长包规格单价（元/个）×会话时长包数量...
什么是轻量应用服务器
轻量应用服务器（Simple Application Server）是可以快速搭建且易于管理的轻量级云服务器，面向单台服务器提供了一键部署应用、一站式域名解析、安全管理以及运维监控等服务。轻量应用服务器操作简单便捷，能让您快速上手部署简单的应用。...
- 产品推荐
- 这些文档可能帮助您