人工智能AI
本文列举了AI推理、AI训练、AI加速的最佳实践案例及人工智能AI的解决方案。AI推理 基于弹性计算的AI推理 AI训练 超级计算集群结合ACK快速实现NLP训练 基于机器学习PAI的云原生AI训练 GPU AI模型训练 基于NAS部署可更换模型的FC Stable ...
AI加速概述
PAI-AI加速器主要用于训练加速和推理加速，它通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段，提高了AI训练和推理的速度、易用性和稳定性，全面提升了AI计算的效率。本文为您介绍AI加速器的功能亮点。AI加速器功能...
PAI使用引导
AI加速 模型开发者使用AI加速器完成训练加速和推理加速，全面提升AI加速效率，详情请参见 AI加速概述。管理AI资产 PAI支持将数据集、模型、镜像和代码等作为AI资产进行管理。在模型开发过程中，模型开发者可以根据使用场景创建AI资产，并对...
ACK集群实现弹性裸金属AI训练
本方案使用了SCC超级计算集群，采用弹性裸金属GPU服务器、并行文件系统CPFS、RDMA网络、阿里云容器服务Kubernetes版和飞天AI加速训练工具，提供性能稳定的训练环境，保障业务能力。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据...
01-AI加速场景架构部署
本场景架构适用于AI加速应用场景。在线下IDC训练加速业务中，经常遇到计算和通信的瓶颈，本方案为您介绍如何借助阿里云上的优势，来支持客户业务，并且基于CADT快速部署进行POC，模板验证后可以直接转生产，大大提升工作效率。
ACK集群实现GPU AI模型训练
本文介绍GPU AI模型训练的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于AI图片训练场景...使用飞天AI加速训练工具加速训练。使用Arena一键提交作业。架构图 参考链接 有关GPU AI模型训练的详情，请参见 GPU AI模型训练。
什么是Deepytorch
Deepytorch是阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。在训练方面，Deepytorch在保障精度的前提下实现端到端训练性能的显著提升，可降低训练成本，提升迭代速度。在推理方面，Deepytorch通过即时编译技术对...
ACK集群实现基于弹性计算的AI推理
本文介绍基于弹性计算的AI推理的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于使用GPU进行AI在线...使用飞天AI加速推理工具加速推理。架构图 参考链接 有关基于弹性计算的AI推理的详情，请参见 基于弹性计算的AI推理。
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
阿里云异构计算产品总览
神行工具包主要包括以下几个组件：神龙AI加速引擎AIACC：基于阿里云IaaS资源推出的AI加速引擎，用于优化基于AI主流计算框架搭建的模型。更多信息，请参见 什么是神龙AI加速引擎AIACC。AI分布式训练通信优化库AIACC-ACSpeed：是阿里云推出的...
云产品依赖与授权：DatasetAccelerator
使用大部分AI加速功能时，您仅需拥有对应模型开发、训练、推理的子产品操作权限即可，无需额外授权。仅使用数据集加速时，您需要购买数据集加速资源实例。此时资源购买的操作账号只能使用阿里云主账号，您可以为RAM用户授权数据集加速器的...
产品优势
神龙AI加速引擎AIACC 神龙AI加速引擎AIACC作为阿里云自研的AI加速器，在训练及推理场景下具有其显著的性能优势，能够提高计算效率同时降低使用成本。统一加速 提供对TensorFlow、Caffe、MXNet和PyTorch多种人工智能框架的统一加速。性能...
什么是GPU云服务器
AI加速器Deepytorch 阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。什么是AI通信加速库Deepnccl 阿里云开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。什么是推理引擎...
边缘节点
Neuro系列/配置项 Neuro 8 Neuro 16 Neuro 32 操作系统 请选择“centos”CPU框架 请选择“ARM64”盒子具体使用的为高通8250CPU 四核ARM A77+四核ARM A57 1个A77@2.8GHz+3个A77@2.4GHz 4个A57@1.8GHz AI加速卡 请选择“AI加速卡”寒武纪MLU...
AI加速使用案例汇总
本文为您介绍AI加速使用案例相关文档入口链接汇总。数据集加速器使用案例 案例名称 描述 在PAI平台使用数据集加速器 介绍如何在创建DSW实例或提交训练任务时直接使用已开启加速的数据集。分布式训练加速使用案例 案例名称 描述 NLP：...
创建及管理数据集加速实例
在左侧导航栏，单击 AI加速>数据集加速器。在 加速实例 页签，单击 创建实例。在 AI数据集加速器（预付费）页面，配置参数。参数 描述 地域 参考界面提示选择数据集加速实例所属地域。数据源类型 支持进行数据加速的数据源类型。容量 数据...
创建及管理数据集加速槽
在左侧导航栏，单击 AI加速>数据集加速器。在 加速槽 页签中，单击 创建加速槽。方式二：在加速实例详情页面创建加速槽。说明 使用该方式创建加速槽时，所属实例 为当前加速实例，不支持选择其他加速实例。在左侧导航栏，单击 AI加速>数据...
在PAI平台使用数据集加速器
在 PAI 平台创建数据集时，支持开启AI加速：数据集加速功能。您可以在创建DSW实例或提交训练任务时，直接使用已开启加速的数据集，提升数据读取效率。本文为您介绍如何在PAI平台使用数据集加速器。前提条件 已创建数据集加速实例，具体操作...
基本概念
AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研的推理AI加速器，可以显著提升推理性能。AIACC-ACSpeed 阿里云推出的AI分布式训练通信优化库。可实现分布式训练在兼容性、适用性和...
什么是Deepytorch Inference（推理加速）
Deepytorch Inference介绍 Deepytorch Inference作为阿里云自研的AI加速器，提供了推理加速能力。针对PyTorch框架下的深度学习模型，在无需指定精度和输入尺寸的情况下，通过即时编译技术对该模型进行推理优化，从而实现高效、快速的推理...
数据集加速器概述
数据集加速器（DatasetAccelerator，简称DatasetAcc）依托于阿里云构建的Paas服务，主要解决云上AI加速-数据集加速的场景。在机器学习训练场景下，通过对客户训练的数据集进行预分析和处理，为各种云原生的训练引擎提供统一的数据集访问...
蓝牙辅助配网开发
蓝牙辅助配网的Wi-Fi部分是基于生活物联网平台设备端SDK的，移植详细说明请参见 Wi-Fi芯片移植 中“HAL移植”与“Wi-Fi和配网移植”的内容。用户编程接口指南 基于已移植好的BLE和Wi-Fi的协议栈后，生活物联网平台的SDK向上层应用开发提供...
开通并授权依赖的阿里云产品
使用PAI进行AI开发过程中，不同的开发场景下需要联合使用一些其他阿里云产品，如OSS、MaxCompute等，因此在正式开始AI开发前，您需要根据场景提前开通好对应的其他云产品并做好授权，以保障后续的开发工作可以顺利进行。本文介绍各场景下...
什么是AI通信加速库Deepnccl
说明 如需了解Deepytorch的更多信息，请参见 什么是AI加速器Deepytorch。Deepnccl通信加速 接口层 在接口层，通过DeepncclWrapper封装nccl-base函数，提供了对通信算法的通用支持。支持的NCCL通信算法包括allreduce（全局归约）、reduce-...
安装和使用Deepytorch Training
Deepytorch Training是阿里云自研的AI加速器，面向生成式AI和大模型场景，提供了显著的训练加速能力。本文主要介绍安装并使用Deepytorch Training的操作方法。前提条件 已创建阿里云GPU实例，且GPU实例需满足以下要求：操作系统为Alibaba ...
AIACC-ACSpeed性能数据
具体测试模型的性能数据如下：说明 如果您想了解更多机型性能测试效果，欢迎使用钉钉搜索群号 33617640 加入阿里云神龙AI加速AIACC外部支持群（钉钉通讯客户端下载地址）。场景1：训练alexnet模型 Model：alexnet Domain：COMPUTER_VISION ...
PAI灵骏智算服务概述
产品架构 PAI灵骏 是软硬件一体化设计的算力集群服务，硬件涵盖了服务器、网络、存储以及集群的整体交付管理等，软件包括算力资源管控运维、AI加速套件、云原生任务管理，以及完善的AI开发作业平台，支持Pytorch、TensorFlow等常见AI框架。...
创建GPU实例
GPU实例在大规模并行计算或者图形渲染场景下，具有较强的计算能力和图形处理能力。使用GPU实例可以为您的业务提供更好的计算性能或者满足专业级图形设计需求，本文为您介绍如何创建GPU实例。操作步骤 前往 实例创建页。...
什么是AI分布式训练通信优化库AIACC-ACSpeed
AIACC-ACSpeed（AIACC 2.0-AIACC Communication Speeding）是阿里云推出的AI分布式训练...联系我们 如果您有分布式训练相关的问题或需求，欢迎使用钉钉搜索群号 33617640 加入阿里云神龙AI加速AIACC外部支持群。（钉钉通讯客户端下载地址）
安装和使用AIACC-AGSpeed
AIACC-AGSpeed（简称AGSpeed）专注于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，可以实现无感的计算优化性能。本文为您介绍安装和使用AGSpeed的方法。前提条件 已创建阿里云GPU实例，且...
模型分析优化
aiacc-torch，更多信息，请参见 什么是神龙AI加速引擎AIACC。model-config-file 配置文件路径。export-path 优化后的模型保存路径。使用以下命令查看任务状态。arena model list-A 预期输出：NAMESPACE NAME STATUS TYPE DURATION AGE GPU...
什么是IoT设备身份认证
强大的生态支撑 和主流安全芯片厂商合作，成功应用在多个项目，提供丰富的安全芯片加速智能设备的上线。海量设备稳定接入 服务可用性99.9%，支持亿级并发处理。开始使用IoT设备身份认证 IoT设备身份认证为新用户提供了免费试用的活动，点击...
历史功能发布记录（2023年）
全部 ack-ai-installer ack-fluid组件发布v1.0.6版本 ack-fluid组件是云原生AI套件提供的分布式数据集编排和加速引擎。在v1.0.6版本中，数据操作支持设置资源请求/限制；支持多级亲和性调度策略自定义配置；JindoRuntime支持加速PV和主机...
什么是生活物联网平台
服务人群 芯片商 为您提供芯片移植指导，助您轻松适配生活物联网平台SDK。详细介绍，请参见 Wi-Fi芯片移植。模组商 为您提供模组移植指导，助您轻松适配生活物联网平台SDK。详细介绍，请参见 Wi-Fi模组移植。为您提供模组认证指导，助您...
基于抢占式实例的弹性训练
为降低使用AI模型训练成本，云原生AI套件推出基于抢占式实例的弹性训练解决方案，该方案可以将AI模型训练这种有状态类型的工作负载运行在抢占式实例上，几乎可以做到在不影响训练作业成功率的情况下降低训练成本。优势与限制 基于抢占式...
设备端开发
为提升您基于新开发的Combo设备（同时支持Wi-Fi和BLE）硬件平台移植生活物联网平台SDK提供的蓝牙辅助Wi-Fi配网功能的效率，本文档将选择一款硬件开发板，进行实际的移植示例，将整个功能移植、应用开发、功能调试等过程串联起来供您参考。...
神行工具包（DeepGPU）计费
神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch Inference、AI通信加速库Deepnccl、推理引擎DeepGPU-LLM、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署...
JindoCache概述
JindoCache（原JindoFSx）是阿里云EMR提供的用于加速云原生数据...AI：加速训练等场景，降低AI集群使用成本，提供更全面的能力支持。缓存策略 JindoCache支持数据缓存（包括分布式数据缓存、一致性哈希数据缓存和本地缓存）和元数据缓存功能。
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
安装并使用Deepnccl
Deepnccl是为阿里云神龙异构产品开发的用于多GPU互联的AI通信加速库，能够无感地加速基于NCCL通信算子调用的分布式训练或多卡推理等任务。本文主要介绍在Ubuntu或CentOS操作系统的GPU实例上安装和使用Deepnccl的操作方法。前提条件 已创建...
- 产品推荐
- 这些文档可能帮助您