产品计费
FPGA云服务器计费相关功能和云服务器ECS一致，本文为您介绍FPGA云服务器的计费信息。计费项及其计费方式 一台FPGA实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的FPGA资源如下表所示。计费项 计费说明 计费方式 ...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
什么是弹性加速计算实例EAIS
弹性加速计算实例EAIS（Elastic Accelerated Computing Instances）是一款阿里云提供的性能卓越、成本优化、弹性扩展的IaaS（Infrastructure as a Service）级别弹性计算服务。EAIS可以将CPU资源与GPU资源成功解耦，帮助您将GPU资源附加到...
资源使用优化
块存储 是阿里云为云服务器ECS提供的块设备产品，具有高性能和低时延的特点，支持随机读写，满足大部分通用业务场景下的数据存储需求。您可以像使用物理硬盘一样格式化并建立文件系统来使用块存储。阿里云文件存储NAS是可以提供共享访问，...
在ACK集群上使用eRDMA
在 选择已有云服务器实例 配置项页面，选择手动添加已有云服务器实例。具体操作，请参见 手动添加节点。在每个节点上安装最新版本的eRDMA驱动。ECS实例（企业级x86规格）上配置eRDMA的方法，请参见 在企业级x86实例上配置eRDMA。GPU实例上...
使用限制
云服务器ECS在产品功能和服务性能上可能存在一些限制，建议您在实际使用之前了解相应的限制，提前规划并申请适合您需求的更高配额，以确保云服务器ECS能够满足您的业务需求。本文介绍云服务器ECS在产品功能和服务性能上存在的限制以及如何...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
视觉计算型
本文介绍云服务器ECS视觉计算型实例规格族的特点，并列出了具体的实例规格。视觉计算型实例规格族ebmgi6s ebmgi6s的特点如下：基于阿里云神龙架构及Intel ® Server GPU，为您提供快速弹性扩展的安全架构及最新高密度云手游渲染实例。可...
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
应用场景
其中FPGA H.265高清编码、720P节省带宽21.6%，GPU云服务器支持高并发实时视频流5000路以上，并逐步上升到峰值6200路每分钟，且顺利度过洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例...
使用限制
FPGA实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有下列限制：仅弹性裸金属服务器和超级计算集群支持二次...
使用限制
本文介绍 函数计算 在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。...
概览
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。应用场景 您可以使用主机监控功能查询主机的资源使用情况和故障指标。主机监控的...
支持的云服务
什么是弹性伸缩ESS 云助手 云助手是专为云服务器ECS打造的原生自动化运维工具，通过免密码、免登录、无需使用跳板机的形式，在ECS实例上实现批量运维、执行命令（Shell、PowerShell和Bat等）和发送文件等操作。典型的使用场景包括：安装卸...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
评估合适的云服务
类型 业务场景 主要特征 云服务器（ECS）云服务器 服务器迁移、整体应用环境、定制化镜像 运行于物理机之上、满足VM层面系统设置需求、丰富的类型与规格 容器服务Kubernetes版（ACK）、弹性容器实例（ECI）容器 微服务、混合云部署 ...
智能水位分析支持的云产品及其监控项
云产品 MetricName 选取的统计列 云服务器ECS cpu_total Average memory_usedutilization Average networkin_rate Average networkout_rate Average diskusage_used Average diskusage_utilization Average gpu_gpu_usedutilization ...
块存储概述
块存储是阿里云为云服务器ECS提供的块设备产品，具有高性能和低时延的特点，支持随机读写，满足大部分通用业务场景下的数据存储需求。您可以像使用物理硬盘一样，在云服务器ECS上进行格式化并建立文件系统来使用块存储。本文介绍块存储的...
产品优势
对比项 弹性容器实例 云服务器ECS 弹性裸金属服务器 成本 只为Pod付费，节约成本。为ECS整体付费。为裸金属服务器整体付费。运维 无需管理节点，运维简单，成本低。需要自行管理节点，运维ECS。需要自行管理节点，运维裸金属服务器。性能 ...
指定GPU规格创建实例
规格类型 GPU规格族 驱动和CUDA版本 GPU虚拟化型实例规格族 sgn7i-vws NVIDIA 470.141.03，CUDA 11.4 vgn7i-vws vgn6i-vws GPU计算型实例规格族 gn7e NVIDIA 470.82.01，CUDA 11.4（默认安装）NVIDIA 525.85.12，CUDA 12.0 gn7i gn7s gn7 ...
AlphaFold2 Ehpc计算巢快速部署文档
权限策略名称 备注 AliyunECSFullAccess 管理云服务器服务（ECS）的权限 AliyunEHPCFullAccess 管理弹性高性能计算（EHPC）的权限 AliyunNASFullAccess 管理文件存储（NAS）的权限 AliyunVPCFullAccess 管理专有网络（VPC）的权限 ...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
节点池概述
关于云服务器计费详情，请参见 云服务器ECS产品计费。关于弹性伸缩组的计费详情，请参见 弹性伸缩产品计费。说明 如果您期望修改节点池中已有节点的付费类型，请登录 ECS管理控制台 修改。具体操作，请参见 按量付费转包年包月。节点池相关...
在Serverless集群中提交作业
创建RAM角色时，可信实体类型为 阿里云服务，角色类型为 普通服务角色，受信服务为 云服务器；为角色授权时，请选择 AliyunOSSFullAccess 权限策略。NAS Volume Mount Path：挂载到容器的目录。NAS Mount Target：NAS的挂载点地址。NAS ...
Gromacs Ehpc计算巢快速部署文档
权限策略名称 备注 AliyunECSFullAccess 管理云服务器服务（ECS）的权限 AliyunEHPCFullAccess 管理弹性高性能计算（EHPC）的权限 AliyunNASFullAccess 管理文件存储（NAS）的权限 AliyunVPCFullAccess 管理专有网络（VPC）的权限 ...
ECI Pod Annotation
创建GPU实例时，如果指定了支持多个驱动和CUDA版本的GPU规格，可配置该Annotation指定驱动和CUDA版本。创建GPU实例 k8s.aliyun.com/eci-instance-family "ecs.c6,ecs.g6"指定vCPU和内存创建ECI实例时，支持指定或排除ECS规格族。指定或排除...
在七代安全增强型实例中部署PyTorch深度学习模型
该模型通常被部署于云服务供应商提供的云服务器如阿里云ECS。如何确保这些部署于公有云上的模型不被他人窃取，确保可用不可见，是模型所有者和云服务提供商共同面临的话题。阿里云ECS部分安全增强型实例基于Intel ® SGX（Software Guard ...
ECI Pod Annotation
创建GPU实例时，如果指定了支持多个驱动和CUDA版本的GPU规格，可配置该Annotation指定驱动和CUDA版本。创建GPU实例 k8s.aliyun.com/eci-instance-family "ecs.c6,ecs.g6"指定vCPU和内存创建ECI实例时，支持指定或排除ECS规格族。指定或排除...
ECI Pod Annotation
创建GPU实例时，如果指定了支持多个驱动和CUDA版本的GPU规格，可配置该Annotation指定驱动和CUDA版本。创建GPU实例 k8s.aliyun.com/eci-instance-family "ecs.c6,ecs.g6"指定vCPU和内存创建ECI实例时，支持指定或排除ECS规格族。指定或排除...
在GPU实例上配置eRDMA
弹性网卡（Elastic Network Interfaces，简称ENI）是专有网络VPC中的虚拟网络接口，用于连接云服务器与专有网络。更多信息，请参见 弹性网卡概述。弹性RDMA（Elastic Remote Direct Memory Access，简称eRDMA）是阿里云提供的低延迟、大...
基本概念
您可以完全掌控自己的专有网络，例如选择IP地址范围、配置路由表和网关等，您可以在自己定义的专有网络中使用阿里云资源如云服务器、云数据库RDS版和负载均衡等。安全组 安全组是一种虚拟防火墙，具备状态检测和数据包过滤能力，用于在云端...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
在企业级实例上配置eRDMA
弹性网卡（Elastic Network Interfaces，简称ENI）是专有网络VPC中的虚拟网络接口，用于连接云服务器与专有网络。更多信息，请参见 弹性网卡概述。弹性RDMA（Elastic Remote Direct Memory Access，简称eRDMA）是阿里云提供的低延迟、大...
ECS选型最佳实践
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。重要 本文主要介绍如何选择企业级实例规格族，不包括入门级（共享型）规格族。有关入门级实例选型，请参见 共享型 或 突发性能实例概述。了解实例规格族 实例规格清单：实例规格族...
ServiceTemplate
名称 类型 描述 示例值 object 服务模版。ServiceTemplateId string 服务模版 ID。st-asdkjf*skdhh ServiceTemplateName string 服务模版名称。...{"processor":"tensorflow_gpu_1.12"} Labels array 标签列表。Label 标签。
使用限制
本文介绍函数计算在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。如果...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
预置Processor使用说明
Processor名称 Processor Code（仅用于EASCMD部署）文档 CPU版 GPU版 PMML pmml 无 PMML Processor TensorFlow1.12 tensorflow_cpu_1.12 tensorflow_gpu_1.12 TensorFlow1.12 Processor TensorFlow1.14 tensorflow_cpu_1.14 tensorflow_gpu...
GetServiceTemplate-获取服务模板
{"processor":"tensorflow_gpu_1.12"} 示例 正常返回示例 JSON 格式 {"RequestId":"40325405-579C-4D82*","ServiceTemplateId":"st-rbvg5wzlj*9ks92","ServiceTemplateName":"stable_diffusion_aigc","ServiceTemplateDescription":"stable...
- 产品推荐
- 这些文档可能帮助您