计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
Designer计费说明
不涉及 无 表 2.（GPU即将下线）后付费（按量计费）定价 地域 卡型 定价（CNY/卡/小时）描述 华北2（北京）P100卡 12 深度学习GPU后付费（按量计费），按照每卡每小时计费。该模块包括TensorFlow、Caffe以及MXNet等框架。华东2（上海）V100...
弹性伸缩概述
背景介绍 弹性伸缩是ACK Serverless上被广泛采用的功能，典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。弹性伸缩分为两个维度：调度层弹性，主要是负责修改负载的调度容量变化。...
弹性伸缩概述
背景介绍 弹性伸缩是ACK被广泛采用的功能，典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。弹性伸缩分为两个维度：工作负载伸缩（调度层弹性）：主要负责修改工作负载的调度容量...
TensorFlow常见问题
建议您将OSS Bucket创建在与深度学习GPU集群相同的地域，从而使用阿里云经典网络进行数据传输，进而使算法运行免收流量费。创建OSS Bucket后，可以在OSS管理控制台创建文件夹、组织数据目录或上传数据。您可以通过API或SDK上传数据至OSS，...
应用场景
GPU云服务器应用场景 直播实时视频转码 阿里云GPU云服务器重点支持2019年天猫双11狂欢夜直播的实时视频转码，以高画质、低带宽、高分辨率、实时的综合优势服务于天猫双11狂欢夜当天直播业务4K、2K、1080P等各个分辨率的转码。具体说明如下...
资源伸缩和系统扩展
对应的弹性伸缩典型场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。弹性伸缩分为两个维度：调度层弹性，主要是负责修改负载的调度容量变化。例如，HPA是典型的调度层弹性组件，通过HPA...
基本概念
典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。ACK支持的弹性伸缩服务如下表。弹性伸缩维度 弹性伸缩分类 描述 调度层弹性 容器水平伸缩（HPA）ACK容器水平伸缩基于CPU使用率自动...
资源使用优化
为最大化提升资源使用率，在如在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等场景均有较大的适用空间。弹性伸缩服务支持两个维度，第一个是调度层的弹性，主要是负责修改负载的调度容量变化。例如...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
软件概述
无 TensorFlow-GPU 1.7.0-cp27-pypi 基于数据流的开源深度学习框架，GPU加速版本。无 VMD 1.9.3 分子动力学模拟可视化软件。无 WRF-MPICH 3.8.1 用于气象研究和天气预测的大气模型系统，多节点并行版本。MPICH 3.2 WRF-OpenMPI 3.8.1 用于...
阿里云异构计算产品总览
AI训练计算优化编译器AIACC-AGSpeed：是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能。更多信息，请参见 什么是计算优化编译器AIACC-AGSpeed。集群极速...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
用户交流
阿里云机器学习平台以社区化的方式进行用户运营，会经常举行用户活动，同时为企业级用户提供高效支持。如果您在产品使用过程中遇到问题，请...相关地址 产品首页 计费说明 算法组件 深度学习框架 模型在线服务 离线调度 产品BUG反馈、工单系统
使用ACK服务实现GPU的成本优化
GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
什么是神行工具包（DeepGPU）
GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，高效完成深度学习、机器学习、大数据分析等任务。神行工具包（DeepGPU）介绍 神行工具包是具有GPU计算服务增强能力的免费工具集，其中，包括业务...
ECS选型最佳实践
通用深度学习：GPU与CPU比例推荐为1:4到1:48之间。图像识别推理：GPU与CPU比例推荐为1:4到1:12之间。语音识别与合成推理：GPU与CPU比例推荐为1:16到1:48之间。常见场景的GPU选型推荐如下图所示。验证与调整 当您完成选型并开始使用云服务器...
什么是人工智能平台PAI
基于开源版本深度优化的深度学习框架TensorFlow、PyTorch、Megatron和DeepSpeed。千亿级特征样本的大规模并行计算框架Parameter Server。Spark、PySpark、MapReduce等业内主流开源框架。PAI提供的服务：可视化建模和分布式训练Designer，...
医疗场景识别
技术前沿精深：基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别模型。服务稳定：根据调用量提供弹性服务，扩展性好，算法持续的迭代优化对用户稳定性无影响。应用...
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
Designer概述
深度学习框架组件 包括基于PAI-Easy系列的视觉类算法、语音类算法、自然语言处理算法，以及TensorFlow、PyTorch等深度学习框架。自定义算法组件 包括SQL脚本、Python脚本、PyAlink脚本等自定义算法组件，可以满足您更加定制化的算法工作流...
EMR-3.24.x版本说明
TensorFlow on spark 支持TensorFlow框架置于Spark之上，使得Spark与深度学习框架深度结合，包括了任务调度和数据交换优化方案等，为您提供从数据预处理到深度学习训练任务的一整套流程。支持Streaming类型任务。更新内容 服务 变更点 ...
ACK集群实现基于弹性计算的AI推理
解决问题 使用GPU云服务器搭建推理环境。使用容器服务Kubernetes版构建推理环境。使用NAS存储模型数据。使用飞天AI加速推理工具加速推理。架构图 参考链接 有关基于弹性计算的AI推理的详情，请参见 基于弹性计算的AI推理。
个人证照识别
技术前沿精深：基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别模型。服务稳定：根据调用量提供弹性服务，扩展性好，算法持续的迭代优化对用户稳定性无影响。应用...
分布式训练加速TorchAcc概述
产品架构 深度学习框架按照执行模式可分为两个大的类别：graph mode：以TensorFlow 1.*为代表的框架采用graph mode的方式运行。其优点是系统优化友好、面向生产、训推一体，而缺点是面向用户不够友好、代码撰写不够灵活、开发和Debug困难。...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
小语种识别
技术前沿精深：基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别模型。服务稳定：根据调用量提供弹性服务，扩展性好，算法持续的迭代优化对用户稳定性无影响。应用...
安装ACCL库
ACCL提供了对PyTorch、Horovod 等深度学习框架以及数据并行、模型并行等主流并行训练模式的支持，便于深度学习用户快速使用。ACCL的关键特性包括：异构拓扑感知，例如节点内PCIE与NVLink/NVSwitch、节点间多轨RDMA网络，分层混合算法设计，...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
教育场景识别
技术前沿精深：基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别模型。服务稳定：根据调用量提供弹性服务，扩展性好，算法持续的迭代优化对用户稳定性无影响。应用...
车辆物流识别
实时性高：依托于阿里自建的EAS在线服务集群，精益求精优化Inference技术，提供弹性伸缩的低延时服务 技术前沿精深：基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别...
directx-device-plugin-windows
在阿里云上使用虚拟化GPU云服务器时，directx-device-plugin-windows可以为Windows容器提供基于DirectX构建的GPU加速功能。关于虚拟化GPU云服务器的详细介绍，请参见 GPU虚拟化型。directx-device-plugin-windows仅支持v1.20.4及其以上版本...
Designer使用案例汇总
本文为您提供 Designer 产品使用案例相关文档入口链接汇总。智能推荐解决方案 案例名称 描述 推荐业务端到端的完整方案 介绍实现推荐系统的...使用TensorFlow实现图片分类 介绍如何使用深度学习框架TensorFlow，快速搭建图像识别的预测模型。
通用文字识别
技术前沿精深 基于阿里云 人工智能平台 PAI，应用阿里深度优化的深度学习框架PAI-Tensorflow，训练出业界领先的文本检测模型及文本识别模型。服务稳定 根据调用量提供弹性服务，扩展性好，算法持续的迭代优化对用户稳定性无影响。应用场景 ...
产品简介
能力介绍 能力名称 支持终端 描述 实时视频分割 实时视频分割SDK（Android）基于深度学习框架，结合检测识别技术，实现高精视觉分割能力，可实现实时全自动主体、场景像素级识别，对高度镂空主体、复杂背景等场景都有较好的效果。...
- 产品推荐
- 这些文档可能帮助您