基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
云服务使用限制索引
弹性计算 云服务 使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
开启GPU加速计算
加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的场景，单个GPU设备会存在资源受限的情况，所以建议在会话中关闭GPU加速计算功能。...
开启GPU加速计算
加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的场景，单个GPU设备会存在资源受限的情况，所以建议在会话中关闭GPU加速计算功能。...
功能发布记录
2019-03-19 全部 实例规格族 2018年9月 功能名称 功能描述 发布时间 发布地域 相关文档 实例规格族 最新一代GPU云主机gn6v（V100机型）正式售卖。2018-09-12 全部 实例规格族 2018年3月 功能名称 功能描述 发布时间 发布地域 相关文档 GPU...
PAI-TF概述
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种...
视觉计算型
本文介绍云服务器ECS视觉计算型实例规格族的特点，并列出了具体的实例规格。视觉计算型实例规格族ebmgi6s ebmgi6s的特点如下：基于阿里云神龙架构及Intel ® Server GPU，为您提供快速弹性扩展的安全架构及最新高密度云手游渲染实例。可...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
应用场景
云服务器ECS具有广泛的应用场景，既可以作为Web服务器或者应用服务器单独使用，又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述，您可以在使用云服务器ECS的同时发现云计算带来的技术...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
弹性并行查询（ePQ）发布说明
PolarDB MySQL版 重磅推出了弹性并行查询（ePQ）引擎，可以将分析型查询的计算任务分发到集群内的任意节点执行，提升集群资源的利用率，从而大幅提升数据库的整体查询性能。简介 对于复杂分析型查询场景，PolarDB MySQL版 已支持的 单机...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
应用场景
其中FPGA H.265高清编码、720P节省带宽21.6%，GPU云服务器支持高并发实时视频流5000路以上，并逐步上升到峰值6200路每分钟，且顺利度过洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例...
利用DCGM实现GPU的性能分析
NVIDIA GPU上存在一些硬件计数器，这些计数器可以用来收集一些设备级别的性能指标，例如GPU利用率、内存使用情况等。借助NVIDIA提供的NVML（NVIDIA Management Library）库或DCGM（Data Center GPU Manager）工具能够查询这些硬件层提供的...
产品优势
高可用性 E-HPC集群节点基于云服务器ECS、超级计算集群SCC和GPU云服务器组建，大大提高了集群的可用性。结果可视 E-HPC提供可视化服务功能，您可以通过可视化服务功能将计算结果转换为可读的图形化数据。例如您可以直接观看渲染后的动画...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
灵骏常见问题
适用场景 适用于计算密集、相似度高、多线程并行的高吞吐量运算场景。适用于对响应速度有要求，逻辑复杂的串行运算场景。最适合GPU的计算类型是可以并行完成的计算，您可以使用并行编程方法和GPU加速计算。而神经网络是高度并行的，非常...
快速构建主机监控能力
步骤一：安装云监控插件 当您在云服务器ECS控制台上创建阿里云主机（ECS实例）后，在云监控控制台的 主机监控 列表中会显示该主机，您需要为其安装云监控插件，才能对其进行监控。登录 云监控控制台。在左侧导航栏，选择 云资源监控>主机...
图像处理最佳实践
应用场景与优势 在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。实时、准实时的应用场景 提供数倍于CPU的图形图像处理效率，从而快速将生产内容推向终端用户。成本优先的图像处理场景 提供弹性预留模式，从而按需...
人工智能最佳实践
您可以通过 函数计算 控制台、SDK或Serverless Devs来体验GPU实例的最佳实践。本文以Python语言为例，说明如何通过控制台，将原始图像经过函数代码处理，实现风格合成以及对象检测。应用场景与优势 传统的面向人工智能应用的GPU基础设施，...
新手指引
您可以通过产品概念、产品优势、产品类型、应用场景、使用限制等方面详细地了解云虚拟主机，更多信息，请参见如下内容：什么是云虚拟主机 云虚拟主机的产品优势 云虚拟主机的产品类型 云虚拟主机的应用场景 云虚拟主机的使用限制 云虚拟...
如何选用云服务器
在阿里云电子政务云上，云服务器有很多不同的规格型号，例如都是4核8G内存的云服务器，在不同应用场景下的性能跑分不同，价格也不同。本文为您介绍阿里云云服务的常见参数类别，帮助您根据不同的业务需求选择合适的云服务。云服务器参数...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
产品优势
与常规的异构实例相比，阿里云弹性加速计算实例EAIS具有解耦性、低成本、弹性、多适配性和高性能的优势。解耦性 常规GPU实例的CPU、内存和GPU是部署在同一台物理机上的。EAIS实例可以将CPU与GPU成功解耦，其CPU、内存和GPU可以存在于不同的...
概述
功能优势 跨机并行查询功能具有如下优势：具备一定的HTAP能力：能在TP数据上实时执行分析型查询。执行分析查询的只读节点和执行TP型查询的只读节点可以物理隔离，避免影响TP业务。结合 PolarDB PostgreSQL版（兼容Oracle）存储计算分离的...
概述
功能优势 跨机并行查询功能具有如下优势：具备一定的HTAP能力：能在TP数据上实时执行分析型查询。执行分析查询的只读节点和执行TP型查询的只读节点可以物理隔离，避免影响TP业务。结合 PolarDB PostgreSQL版（兼容Oracle）存储计算分离的...
GPU计算型
主售（推荐类型）GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例...服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器实例规格族ebmgn7e GPU计算型弹性裸金属服务器实例规格族ebmgn7ix GPU计算型弹性裸金属服务器实例规格...
概览
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。应用场景 您可以使用主机监控功能查询主机的资源使用情况和故障指标。主机监控的...
图像处理最佳实践
应用场景与优势 在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。实时、准实时的应用场景 提供数倍于CPU的图形图像处理效率，从而快速将生产内容推向终端用户。成本优先的图像处理场景 提供弹性预留模式，从而按需...
共享GPU调度概述
本文为您介绍阿里云共享GPU方案、共享GPU专业版的优势、共享GPU的基础版与专业版的功能对比及使用场景，帮助您了解和更好地使用共享GPU的能力。视频介绍 背景介绍 阿里云 容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）...
使用限制
本文介绍 函数计算 在服务资源、函数运行资源、触发器、层、地域、镜像大小及GPU卡数等相关资源的使用限制。重要 本文内容旨在帮助新手用户避免在不了解函数原理时，因误配或者代码有误而造成费用不可控的问题，例如循环调用、死循环等。...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
什么是弹性加速计算实例EAIS
弹性加速计算实例EAIS（Elastic Accelerated Computing Instances）是一款阿里云提供的性能卓越、成本优化、弹性扩展的IaaS（Infrastructure as a Service）级别弹性计算服务。EAIS可以将CPU资源与GPU资源成功解耦，帮助您将GPU资源附加到...
什么是云虚拟主机
具体对比项如下所示：对比项 共享云虚拟主机 独享云虚拟主机 云服务器ECS 适用人群 初级入门建站用户 企业建站用户 有技术能力、懂得服务器配置及维护的用户及开发者 CPU 共享 独享 除共享型ECS实例外，其他类型实例均为独享CPU 内存 共享 ...
连接方式概述
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的连接方式。ECS支持通过多种方式连接实例，包括阿里云提供的连接工具（例如Workbench、VNC等）和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
LLM on DLC-Megatron on DLC最佳实践
常见的大模型训练技术包括：数据并行技术、模型并行技术（包括张量并行技术和流水并行技术）、优化器状态并行技术、序列并行技术、激活重算技术等：数据并行技术（Data Parallel）：在多个GPU组上有相同的模型参数副本，但读取不同的样本。...
什么是专有宿主机DDH
专有宿主机DDH（Dedicated Host）是阿里云专为企业客户定制优化的云端解决方案，具有物理资源独享、部署更灵活、配置更丰富、性价比更高等特点，可以有效地降低企业上云的总所有成本TCO（Total Cost of Ownership）。DDH是指由一个租户独享...
- 产品推荐
- 这些文档可能帮助您