Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
基本概念
通用概念 概念 说明 ECS实例 云上的虚拟计算服务器，内含vCPU、内存、操作系统、网络、磁盘等基础组件。ECS实例规格 定义了ECS实例在计算性能、存储性能、网络性能等方面的基本属性，但需要同时配合镜像、块存储、网络等配置才能确定一台...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
应用场景
推荐搭配使用：云服务器 ECS／GPU 服务器 EGS／高性能计算服务（Alibaba Cloud HPC）+容器服务+对象存储 OSS／文件存储 NAS／CPFS 相关文档：PyTorch分布式训练 TensorFlow分布式训练 微服务架构 实现敏捷开发和部署落地，加速企业业务迭代...
使用ACK服务实现GPU的成本优化
GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
在GPU实例（计算型和虚拟化型）中安装GRID驱动...
Windows系统GPU计算型实例：gn7i、gn6i、ebmgn7i、ebmgn6i。更多信息，请参见 GPU计算型。操作步骤 下文以一台华东1（杭州）地域的vgn6i-vws实例（ecs.vgn6i-m4-vws.xlarge）为例。登录 ECS管理控制台。在左侧导航栏，选择 运维与监控>云...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
什么是推理引擎DeepGPU-LLM
产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性和广泛适用性，旨在优化大语言模型在GPU云服务器上的推理过程，通过优化和并行计算等技术手段，为您提供免费的高性能、低延迟推理服务。DeepGPU-LLM的关联布局图如下所示：...
弹性裸金属服务器概述
本地SSD型弹性裸金属服务器实例规格族ebmi2g GPU计算型：GPU计算型弹性裸金属服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器实例规格族ebmgn7e GPU计算型弹性裸金属服务器实例规格族ebmgn7ix GPU计算型弹性裸金属服务器实例规格族...
新功能发布记录
2022-07-12 部分 导入自定义镜像 镜像检测概述 通过阿里云客户端连接实例 阿里云客户端是由阿里云官方推出的客户端工具，提供了对云服务器ECS、弹性容器实例ECI、轻量应用服务器、阿里云托管实例的资源浏览、查找、远程连接等功能。...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
云服务使用限制索引
弹性计算 云服务 使用限制 云服务器ECS 使用限制 弹性裸金属服务器 使用限制 FPGA云服务器 使用限制 GPU云服务器 使用限制 存储容量单位包 使用限制 块存储 使用限制 轻量应用服务器 使用限制 专有宿主机 使用限制 批量计算 使用限制 容器...
释放实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。前提条件 ...
灵骏常见问题
本文为您介绍智能计算灵骏的常见问题。如何创建、删除集群下的节点分组？您有两种方式为灵骏集群创建分组。创建集群时，为集群创建分组。更多信息，请参见 集群和分组配置。创建集群完成后，为已有的集群创建分组。在左侧导航栏，选择 资源...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
基本概念
DeepGPU 阿里云专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集合。AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研的推理AI加速器，可以显著提升推理性能。AIACC-...
异构服务型
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
实时推理场景
突发流量支撑 函数计算平台提供充足的GPU资源供给，当业务遭遇突发流量时，函数计算将以秒级弹性供给海量GPU算力资源，避免因GPU算力供给不足、GPU算力弹性滞后导致的业务受损。功能原理 当GPU函数部署完成后，您可以通过配置预留GPU实例的...
什么是轻量应用服务器
产品概述 轻量应用服务器基于云服务器ECS的计算、存储、网络资源，并结合阿里云公共镜像和云市场镜像，为您提供了高效的应用部署方案。如果您是正在了解云计算服务的入门用户；或是需要在服务器中部署简单应用的个人开发者、中小企业，那么...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据...适用于 云服务器ECS
应用场景
云服务器ECS具有广泛的应用场景，既可以作为Web服务器或者应用服务器单独使用，又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述，您可以在使用云服务器ECS的同时发现云计算带来的技术...
创建GPU集群
NVIDIA GPU设备多用于科学计算、图形渲染等场景，为这些计算应用提供加速计算能力。容器服务 Kubernetes 版支持对各种型号的计算型GPU资源进行统一调度和运维管理，能够显著提高GPU集群资源的使用效率。本文介绍如何创建GPU集群及查看节点...
跨可用区迁移
跨可用区迁移 可将阿里云ECS云服务器迁移到同地域的不同可用区，提高阿里云内ECS云服务器迁移效率。本文介绍跨可用区迁移的功能优势、应用场景、使用限制等信息。产品优势 迁移效率高 支持批量跨可用区迁移多个ECS实例，提高迁移效率。成本...
最佳实践概览
源服务器迁移至轻量应用服务器 服务器迁移中心支持将其他厂商轻量服务器（腾讯云轻量应用服务器、AWS Lightsail Instance和华为云云耀云服务器）迁移至阿里云轻量应用服务器。高可用架构 轻量应用负载均衡可以将公网访问的流量分发到后端的...
ALB服务器组概述
添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自ALB转发的请求。关于ECS作为后端服务的教程，请参见：快速实现IPv4服务的负载均衡 快速实现IPv6服务的负载均衡 IP类型 该类型服务器组支持添加IP地址作为后端服务。...
实时推理场景
突发流量支撑 函数计算平台提供充足的GPU资源供给，当业务遭遇突发流量时，函数计算将以秒级弹性供给海量GPU算力资源，避免因GPU算力供给不足、GPU算力弹性滞后导致的业务受损。功能原理 当GPU函数部署完成后，您可以通过配置预留GPU实例的...
人工智能最佳实践
函数计算 的GPU实例将这些问题从用户侧转移至云厂商侧，让您无需关心底层GPU基础设施，完全聚焦于业务本身，极大地简化了业务的实现路径。在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。成本优先的AI应用场景 ...
2023年功能发布记录
在DataWorks中通过函数计算节点实现动态为PDF添加水印 在DataWorks中通过函数计算节点发送邮件 2023年07月 功能名称 变更类型 功能描述 相关文档 MQTT触发器 新增 云消息队列 MQTT 版 作为事件源通过 事件总线EventBridge 与 函数计算 集成...
新用户免费试用额度
试用期内您可以免费试用一定额度的计算消耗量，同时免费存储一定额度的标准存储数据。本文为您介绍 免费试用额度类型、支持地域等内容。免费试用额度介绍 目前MaxCompute的免费试用套餐包括 计算抵扣包 和 存储抵扣包，仅支持抵扣...
安装和使用AIACC-AGSpeed
AIACC-AGSpeed（简称AGSpeed）专注于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，可以实现无感的计算优化性能。本文为您介绍安装和使用AGSpeed的方法。前提条件 已创建阿里云GPU实例，且...
【产品变更】函数计算计费项降价通知
自2023年09月01日0时起，函数计算 中GPU使用量和函数调用次数进行价格调整。这两个计费项实行阶梯累计计费模式，本次降价幅度达到10%~93%。价格调整明细 新的计费价格调整将于2023年9月1日00:00生效，生效后您购买的函数计算产品中的GPU...
快速搭建LNMP环境（通过宝塔面板）
宝塔面板是一款使用方便、功能强大且终身免费的服务器管理软件，支持Linux与Windows系统。一键配置LAMP、LNMP、网站、数据库、FTP、SSL，通过Web端轻松管理服务器。本文主要介绍了如何使用应用镜像BT-Panel在轻量应用服务器上搭建宝塔面板...
- 产品推荐
- 这些文档可能帮助您