人工智能AI
基于弹性计算的AI推理 AI训练 超级计算集群结合ACK快速实现NLP训练 基于机器学习PAI的云原生AI训练 GPU AI模型训练 基于NAS部署可更换模型的FC Stable Diffusion进行AI绘画创作 使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理 AI加速 ...
阿里云异构计算产品总览
阿里云异构计算云服务研发了云端AI加速器，通过统一的框架同时支持了TensorFlow、PyTorch、MXNet和Caffe四种主流AI计算框架的性能加速，并且针对以太网和异构加速器本身进行了深入的性能优化。阿里云异构计算产品家族介绍 下文为您介绍阿里...
AI加速概述
PAI-AI加速器主要用于训练加速和推理加速，它通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段，提高了AI训练和推理的速度、易用性和稳定性，全面提升了AI计算的效率。本文为您介绍AI加速器的功能亮点。AI加速器功能...
PAI使用引导
AI加速 模型开发者使用AI加速器完成训练加速和推理加速，全面提升AI加速效率，详情请参见 AI加速概述。管理AI资产 PAI支持将数据集、模型、镜像和代码等作为AI资产进行管理。在模型开发过程中，模型开发者可以根据使用场景创建AI资产，并对...
ACK集群实现弹性裸金属AI训练
本方案使用了SCC超级计算集群，采用弹性裸金属GPU服务器、并行文件系统CPFS、RDMA网络、阿里云容器服务Kubernetes版和飞天AI加速训练工具，提供性能稳定的训练环境，保障业务能力。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据...
01-AI加速场景架构部署
本场景架构适用于AI加速应用场景。在线下IDC训练加速业务中，经常遇到计算和通信的瓶颈，本方案为您介绍如何借助阿里云上的优势，来支持客户业务，并且基于CADT快速部署进行POC，模板验证后可以直接转生产，大大提升工作效率。
ACK集群实现基于弹性计算的AI推理
本文介绍基于弹性计算的AI推理的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于使用GPU进行AI在线...使用飞天AI加速推理工具加速推理。架构图 参考链接 有关基于弹性计算的AI推理的详情，请参见 基于弹性计算的AI推理。
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
产品优势
神龙AI加速引擎AIACC 神龙AI加速引擎AIACC作为阿里云自研的AI加速器，在训练及推理场景下具有其显著的性能优势，能够提高计算效率同时降低使用成本。统一加速 提供对TensorFlow、Caffe、MXNet和PyTorch多种人工智能框架的统一加速。性能...
在GPU集群中加速AI模型训练
使用飞天AI加速训练工具服务AI图片的加速训练，加速性能显著提升。使用Arena一键提交作业，简化了机器学习技术站的部署和使用复杂度。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的...
边缘节点
Neuro系列/配置项 Neuro 8 Neuro 16 Neuro 32 操作系统 请选择“centos”CPU框架 请选择“ARM64”盒子具体使用的为高通8250CPU 四核ARM A77+四核ARM A57 1个A77@2.8GHz+3个A77@2.4GHz 4个A57@1.8GHz AI加速卡 请选择“AI加速卡”寒武纪MLU...
创建GPU实例
GPU实例在大规模并行计算或者图形渲染场景下，具有较强的计算能力和图形处理能力。使用GPU实例可以为您的业务提供更好的计算性能或者满足专业级图形设计需求，本文为您介绍如何创建GPU实例。操作步骤 前往 实例创建页。选择 自定义购买 页...
基本概念
AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研的推理AI加速器，可以显著提升推理性能。AIACC-ACSpeed 阿里云推出的AI分布式训练通信优化库。可实现分布式训练在兼容性、适用性和...
什么是Deepytorch Inference（推理加速）
Deepytorch Inference介绍 Deepytorch Inference作为阿里云自研的AI加速器，提供了推理加速能力。针对PyTorch框架下的深度学习模型，在无需指定精度和输入尺寸的情况下，通过即时编译技术对该模型进行推理优化，从而实现高效、快速的推理...
开通并授权依赖的阿里云产品
使用PAI进行AI开发过程中，不同的开发场景下需要联合使用一些其他阿里云产品，如OSS、MaxCompute等，因此在正式开始AI开发前，您需要根据场景提前开通好对应的其他云产品并做好授权，以保障后续的开发工作可以顺利进行。本文介绍各场景下...
什么是AI通信加速库Deepnccl
说明 如需了解Deepytorch的更多信息，请参见 什么是AI加速器Deepytorch。Deepnccl通信加速 接口层 在接口层，通过DeepncclWrapper封装nccl-base函数，提供了对通信算法的通用支持。支持的NCCL通信算法包括allreduce（全局归约）、reduce-...
PAI灵骏智算服务概述
产品架构 PAI灵骏 是软硬件一体化设计的算力集群服务，硬件涵盖了服务器、网络、存储以及集群的整体交付管理等，软件包括算力资源管控运维、AI加速套件、云原生任务管理，以及完善的AI开发作业平台，支持Pytorch、TensorFlow等常见AI框架。...
AIACC-ACSpeed性能数据
具体测试模型的性能数据如下：说明 如果您想了解更多机型性能测试效果，欢迎使用钉钉搜索群号 33617640 加入阿里云神龙AI加速AIACC外部支持群（钉钉通讯客户端下载地址）。场景1：训练alexnet模型 Model：alexnet Domain：COMPUTER_VISION ...
什么是AI分布式训练通信优化库AIACC-ACSpeed
AIACC-ACSpeed（AIACC 2.0-AIACC Communication Speeding）是阿里云推出的AI分布式训练...联系我们 如果您有分布式训练相关的问题或需求，欢迎使用钉钉搜索群号 33617640 加入阿里云神龙AI加速AIACC外部支持群。（钉钉通讯客户端下载地址）
安装和使用AIACC-AGSpeed
AIACC-AGSpeed（简称AGSpeed）专注于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，可以实现无感的计算优化性能。本文为您介绍安装和使用AGSpeed的方法。前提条件 已创建阿里云GPU实例，且...
历史功能发布记录（2023年）
发布地域 相关文档 容器服务 Kubernetes 版 支持基于机密虚拟机的AI模型推理保护 ACK现已支持将基于Intel® Trusted Domain Extension（Intel® TDX技术的ECS实例加入TDX机密虚拟机计算节点池，使集群具备TDX机密计算能力，实现AI模型的...
什么是IoT设备身份认证
强大的生态支撑 和主流安全芯片厂商合作，成功应用在多个项目，提供丰富的安全芯片加速智能设备的上线。海量设备稳定接入 服务可用性99.9%，支持亿级并发处理。开始使用IoT设备身份认证 IoT设备身份认证为新用户提供了免费试用的活动，点击...
支持的云服务
多媒体AI MultimediaAI 2021-02-07 多媒体AI的审计事件 智能视觉生产 IVPD 2021-06-22 智能视觉生产的审计事件 数知地球AI Earth Rsimganalys 2021-06-16 数知地球AI Earth的审计事件 人工智能平台 PAI PAI 2021-05-21 当前仅支持PAI-AI ...
基于抢占式实例的弹性训练
为降低使用AI模型训练成本，云原生AI套件推出基于抢占式实例的弹性训练解决方案，该方案可以将AI模型训练这种有状态类型的工作负载运行在抢占式实例上，几乎可以做到在不影响训练作业成功率的情况下降低训练成本。优势与限制 基于抢占式...
设备端开发
为提升您基于新开发的Combo设备（同时支持Wi-Fi和BLE）硬件平台移植生活物联网平台SDK提供的蓝牙辅助Wi-Fi配网功能的效率，本文档将选择一款硬件开发板，进行实际的移植示例，将整个功能移植、应用开发、功能调试等过程串联起来供您参考。...
ACK集群实现GPU AI模型训练
本文介绍GPU AI模型训练的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于AI图片训练场景...使用飞天AI加速训练工具加速训练。使用Arena一键提交作业。架构图 参考链接 有关GPU AI模型训练的详情，请参见 GPU AI模型训练。
什么是Deepytorch
Deepytorch是阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。在训练方面，Deepytorch在保障精度的前提下实现端到端训练性能的显著提升，可降低训练成本，提升迭代速度。在推理方面，Deepytorch通过即时编译技术对...
神行工具包（DeepGPU）计费
神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch Inference、AI通信加速库Deepnccl、推理引擎DeepGPU-LLM、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署...
什么是GPU云服务器
其作为阿里云弹性计算家族的一员，结合了GPU计算力与CPU计算力，满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求，例如，在并行运算方面，使用GPU云服务器可显著提高计算效率。为什么选择GPU云服务器 阿里云GPU云服务器是...
什么是神行工具包（DeepGPU）
神行工具包主要包括以下组件：什么是Deepytorch Training（训练加速）什么是Deepytorch Inference（推理加速）什么是AI通信加速库Deepnccl 什么是推理引擎DeepGPU-LLM AI分布式训练通信优化库AIACC-ACSpeed 计算优化编译器AIACC-AGSpeed ...
云产品依赖与授权：DatasetAccelerator
使用大部分AI加速功能时，您仅需拥有对应模型开发、训练、推理的子产品操作权限即可，无需额外授权。仅使用数据集加速时，您需要购买数据集加速资源实例。此时资源购买的操作账号只能使用阿里云主账号，您可以为RAM用户授权数据集加速器的...
JindoFS实战演示
通过JindoFS，您可以完成数据迁移、OSS访问加速、缓存加速、AI训练加速和JindoTable计算加速。本文为您介绍JindoFS实战的详细文档和演示视频。注意 如果视频断链表明该视频已过时，且已被下线。由于产品在不断更新迭代，请以官方控制台操作...
AI加速使用案例汇总
本文为您介绍AI加速使用案例相关文档入口链接汇总。数据集加速器使用案例 案例名称 描述 在PAI平台使用数据集加速器 介绍如何在创建DSW实例或提交训练任务时直接使用已开启加速的数据集。分布式训练加速使用案例 案例名称 描述 NLP：...
创建及管理数据集加速实例
在左侧导航栏，单击 AI加速>数据集加速器。在 加速实例 页签，单击 创建实例。在 AI数据集加速器（预付费）页面，配置参数。参数 描述 地域 参考界面提示选择数据集加速实例所属地域。数据源类型 支持进行数据加速的数据源类型。容量 数据...
GPU云服务器常见问题
如果您的业务涉及AI推理相关内容，您需要购买弹性加速计算实例EAIS，该服务能够将CPU资源与GPU资源解耦，帮助您将GPU资源附加到ECS实例上，构建成您希望得到的GPU实例规格，从而实现为ECS实例远程增加GPU显卡。弹性加速计算实例EAIS的更多...
创建及管理数据集加速槽
在左侧导航栏，单击 AI加速>数据集加速器。在 加速槽 页签中，单击 创建加速槽。方式二：在加速实例详情页面创建加速槽。说明 使用该方式创建加速槽时，所属实例 为当前加速实例，不支持选择其他加速实例。在左侧导航栏，单击 AI加速>数据...
在PAI平台使用数据集加速器
在 PAI 平台创建数据集时，支持开启AI加速：数据集加速功能。您可以在创建DSW实例或提交训练任务时，直接使用已开启加速的数据集，提升数据读取效率。本文为您介绍如何在PAI平台使用数据集加速器。前提条件 已创建数据集加速实例，具体操作...
GPU计算型
主售（推荐类型）GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例规格族gn7s GPU计算型实例规格族gn7 GPU计算型实例规格族gn7r GPU计算型实例规格族gn6i GPU计算型实例规格族gn6e GPU计算型实例规格族gn6v GPU计算型弹性裸...
GPU计算型和GPU虚拟化型实例概述
推荐 GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例规格族gn7s GPU计算型实例规格族gn7 GPU计算型实例规格族gn7r GPU虚拟化型实例规格族vgn6i...
应用场景
神行工具包（DeepGPU）应用场景 神行工具包中的组件主要包括神龙AI加速引擎AIACC（AIACC-Training和AIACC-Inference）、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署工具FastGPU以及GPU容器共享...
- 产品推荐
- 这些文档可能帮助您