基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
产品计费
FPGA云服务器计费相关功能和云服务器ECS一致，本文为您介绍FPGA云服务器的计费信息。计费项及其计费方式 一台FPGA实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的FPGA资源如下表所示。计费项 计费说明 计费方式 ...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
使用ACK服务实现GPU的成本优化
GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
访问ECS实例异常时的问题排查和指引
所有服务器访问目标服务器均存在异常 如果所有服务器访问目标服务器均存在异常，则推断是目标服务器归属安全组或服务器内部自身存在异常所致，需要做进一步排查分析查看服务器内部访问是否正常，即通过 使用管理终端连接Linux实例 登录...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
应用场景
云服务器ECS具有广泛的应用场景，既可以作为Web服务器或者应用服务器单独使用，又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述，您可以在使用云服务器ECS的同时发现云计算带来的技术...
GPU调度概述
普通GPU调度 申请Kubernetes GPU集群后，通过运行TensorFlow的GPU实验环境，关于如何使用Kubernetes默认调度器独占GPU，请参见 使用Kubernetes默认GPU调度。您也可通过使用GPU节点标签自定义调度，具体操作，请参见 使用节点标签自定义GPU...
收集GPU节点的问题诊断信息
GPU节点问题 如果不属于Pod运行失败的情况，例如GPU节点运行失败或者其他GPU节点环境问题，您可以执行以下操作：登录到该GPU节点上，执行以下命令，下载并执行诊断脚本。sudo curl ...
自助建站方式汇总
搭建环境 阿里云云服务器ECS提供了多种镜像，您可以通过云市场镜像快速部署环境，也可以通过操作系统镜像创建服务器后手动搭建运维环境。搭建环境教程如下所示。部署LNMP环境 Nginx是一款小巧而高效的Web服务器软件，可帮您在Linux系统下...
服务器迁移指引
服务器迁移中心SMC（Server Migration Center）是阿里云自主研发的迁移平台，可将您的单台或多台源服务器迁移至阿里云上。SMC概述 服务器迁移中心SMC（Server Migration Center）能够将单台或多台源服务器迁移至阿里云上。源服务器包括IDC...
产品优势
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
使用EAIS实例部署ChatGLM2-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
（推荐）使用EAIS提供的镜像快速部署ChatGLM-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
安装SharePoint Server 2016
系统环境 要求 服务器 操作系统：Windows Server 2012 R2、Windows Server 2016、Windows Server 2019 vCPU和内存：4vCPU 8 GiB（请根据真实环境设计架构以及购买服务器配置）数据库 SQL Server 2012、2014、2016、2017、2019、2022 服务及...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
建站零基础入门
使用阿里云云服务器ECS搭建网站有多种方式，本文主要介绍自助建站的流程。建站方式 使用ECS建站的方式如下表所示。请根据实际业务需求，选择适合您的建站方式。建站方式 优势 适用人群与场景 自助建站 服务器购买、网站搭建、网站维护全程...
Hive调研工具准备
运行环境准备 服务器选择 Hive扫描工具（简称hive-scanner）需要安装和运行在工具服务器上，工具服务器需要与Hive 集群的metastore db环境互通。规格系统 此外工具服务器需要至少 2C4G 的机器规格，对于操作系统没有依赖。环境依赖 hive-...
eGPU接口使用示例
背景信息 所有开关和配置都通过在容器启动时指定环境变量的方式指定，下文为一个具体的示例，将启动一个使能eGPU并控制显存为2G算力50%的容器：sudo docker run \-runtime=nvidia-e NVIDIA_DRIVER_CAPABILITIES=all \-e AMP_VGPU_ENABLE=1 ...
Web应用管理
应用环境关联服务器 在用户创建了Web应用后，云效将自动帮助您创建日常环境-预发环境-正式环境。您可以在每个环境中关联对应的阿里云ECS机器，并且定义您部署该环境的过程。应用环境定义部署过程 应用部署时，通常需要定义以下内容：停应用...
IDC调研工具安装
被调研服务器 表示用户准备进行调研的服务器，该机器上可能正在运行业务应用或者各类型中间件，目前被调研机器仅支持类Unix 系统，详情请参考文档：支持列表 运行环境准备 服务器选择 IDC扫描工具（简称idc-scanner）需要安装和运行在工具...
应用场景
推荐搭配使用：云服务器 ECS／GPU 服务器 EGS／高性能计算服务（Alibaba Cloud HPC）+容器服务+对象存储 OSS／文件存储 NAS／CPFS 相关文档：PyTorch分布式训练 TensorFlow分布式训练 微服务架构 实现敏捷开发和部署落地，加速企业业务迭代...
第三方教程
选轻量应用服务器or云服务器ECS？一图帮你彻底区分 轻量应用服务器助力初创型建站服务企业降本提效 轻量应用服务器如何帮助大学生在大数据课程中高效学习 搭建网站 3步！完成WordPress博客迁移与重新部署 只需5步！在轻量应用服务器部署...
如何选用云服务器
在阿里云电子政务云上，云服务器有很多不同的规格型号，例如都是4核8G内存的云服务器，在不同应用场景下的性能跑分不同，价格也不同。本文为您介绍阿里云云服务的常见参数类别，帮助您根据不同的业务需求选择合适的云服务。云服务器参数...
LoginInstance-远程登录实例
接口说明 创建轻量应用服务器后，您可以远程登录轻量应用服务器，在服务器上搭建环境、搭建应用等。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 ...
产品优势
服务器迁移可将您的单台或多台迁移源迁移至阿里云，本文主要介绍服务器迁移的优势。支持多平台、多环境迁移 支持多种Windows和Linux操作系统版本。更多信息，请参见 SMC支持的操作系统版本。支持将源服务器从自建IDC机房、本地虚拟机...
镜像商品的版本管理
可以不做设置，不设置代表该镜像运行可以支持1核及以上GPU的云服务器 内存配置 不做设置 0.5 GiB – 1024 GiB 可以不做设置，不设置代表该镜像部署和运行可以支持0.5GiB及以上内存的云服务器 VPC专有网络是否支持多网卡 支持 支持和不支持...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
已停售的GPU实例规格
网络：支持IPv6 实例网络性能与计算规格对应（规格越高网络性能越强）适用场景：云游戏的云端实时渲染 AR和VR的云端实时渲染 AI（DL和ML）推理，适合弹性部署含有AI推理计算应用的互联网业务 深度学习的教学练习环境 深度学习的模型实验...
迁移ECS实例至轻量应用服务器
由于业务的需要，您可以将ECS实例中部署的网站程序迁移至轻量应用服务器。本文介绍如何迁移ECS实例至轻量应用服务器。前提条件 已创建与ECS实例操作系统版本相同的轻量应用服务器。具体操作，请参见 创建轻量应用服务器。说明 如果您已创建...
在GPU实例上部署NGC环境
NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，方便您免费访问深度学习软件堆栈，建立适合深度学习的开发环境。本文以搭建TensorFlow深度学习框架为例，为您介绍如何在GPU实例上部署NGC环境。背景信息 NGC作为一套深度学习...
- 产品推荐
- 这些文档可能帮助您