AI加速概述
PAI-AI加速器主要用于训练加速和推理加速，它通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段，提高了AI训练和推理的速度、易用性和稳定性，全面提升了AI计算的效率。本文为您介绍AI加速器的功能亮点。AI加速器功能...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
什么是GPU云服务器
AI加速器Deepytorch 阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。什么是AI通信加速库Deepnccl 阿里云开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。什么是推理引擎...
开通并授权依赖的阿里云产品
使用PAI进行AI开发过程中，不同的开发场景下需要联合使用一些其他阿里云产品，如OSS、MaxCompute等，因此在正式开始AI开发前，您需要根据场景提前开通好对应的其他云产品并做好授权，以保障后续的开发工作可以顺利进行。本文介绍各场景下...
人工智能AI
本文列举了AI推理、AI训练、AI加速的最佳实践案例及人工智能AI的解决方案。...RAPIDS加速机器学习 RAPIDS加速图像搜索 混合云使用飞天AI加速工具 AIACC加速Bert Finetune 解决方案 阿里云AI解决方案【客户案例】智能驾驶行业如何上云？
阿里云电子政务云产品全家福
阿里云电子政务云平台提供弹性计算类、网络、数据库、存储、大数据、中间件、IoT等品类丰富的产品及高标准的安全合规服务，用以支撑多种政务类业务场景，例如：城市大脑，合规应用平台等。截至文档发布时间，阿里云电子政务云共计上线95款...
产品优势
神龙AI加速引擎AIACC 神龙AI加速引擎AIACC作为阿里云自研的AI加速器，在训练及推理场景下具有其显著的性能优势，能够提高计算效率同时降低使用成本。统一加速 提供对TensorFlow、Caffe、MXNet和PyTorch多种人工智能框架的统一加速。性能...
阿里云异构计算产品总览
阿里云异构计算云服务研发了云端AI加速器，通过统一的框架同时支持了TensorFlow、PyTorch、MXNet和Caffe四种主流AI计算框架的性能加速，并且针对以太网和异构加速器本身进行了深入的性能优化。阿里云异构计算产品家族介绍 下文为您介绍阿里...
ACK集群实现GPU AI模型训练
本文介绍GPU AI模型训练的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于AI图片训练场景...使用飞天AI加速训练工具加速训练。使用Arena一键提交作业。架构图 参考链接 有关GPU AI模型训练的详情，请参见 GPU AI模型训练。
什么是Deepytorch
Deepytorch是阿里云自研的AI加速器，为生成式AI和大模型场景提供训练和推理加速功能。在训练方面，Deepytorch在保障精度的前提下实现端到端训练性能的显著提升，可降低训练成本，提升迭代速度。在推理方面，Deepytorch通过即时编译技术对...
ACK集群实现基于弹性计算的AI推理
本文介绍基于弹性计算的AI推理的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于使用GPU进行AI在线...使用飞天AI加速推理工具加速推理。架构图 参考链接 有关基于弹性计算的AI推理的详情，请参见 基于弹性计算的AI推理。
AI加速使用案例汇总
本文为您介绍AI加速使用案例相关文档入口链接汇总。数据集加速器使用案例 案例名称 描述 在PAI平台使用数据集加速器 介绍如何在创建DSW实例或提交训练任务时直接使用已开启加速的数据集。分布式训练加速使用案例 案例名称 描述 NLP：...
创建及管理数据集加速实例
在左侧导航栏，单击 AI加速>数据集加速器。在 加速实例 页签，单击 创建实例。在 AI数据集加速器（预付费）页面，配置参数。参数 描述 地域 参考界面提示选择数据集加速实例所属地域。数据源类型 支持进行数据加速的数据源类型。容量 数据...
ACK集群实现弹性裸金属AI训练
本方案使用了SCC超级计算集群，采用弹性裸金属GPU服务器、并行文件系统CPFS、RDMA网络、阿里云容器服务Kubernetes版和飞天AI加速训练工具，提供性能稳定的训练环境，保障业务能力。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据...
基本概念
AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研的推理AI加速器，可以显著提升推理性能。AIACC-ACSpeed 阿里云推出的AI分布式训练通信优化库。可实现分布式训练在兼容性、适用性和...
带宽包FAQ
精品加速带宽适用于加速区域和服务区域都位于海外的场景，其可以同时加速阿里云和非阿里云的公网服务。如果要加速中国内地到海外区域的访问质量，需选择中国香港作为加速区域。带宽包是否支持降配？目前，基础带宽包带宽仅支持进行升配操作...
在GPU集群中加速AI模型训练
使用飞天AI加速训练工具服务AI图片的加速训练，加速性能显著提升。使用Arena一键提交作业，简化了机器学习技术站的部署和使用复杂度。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的...
CreateBandwidthPackage-创建指定带宽包
基础带宽包支持以下带宽类型：标准加速带宽：默认的加速区域和服务区域都位于中国内地，被加速的服务部署在阿里云上。增强加速带宽：默认的加速区域和服务区域都位于中国内地，可同时加速阿里云和非阿里云的公网服务。精品加速带宽：默认的...
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
芯片厂商入驻流程
安全芯片接入平台（以下简称接入平台）为安全芯片厂商提供了流程化的芯片接入系统，提供相关验证工具、SDK、文档模板，保障安全芯片可以高效、高质量的接入阿里云IoT安全生态。本文为您介绍芯片厂商入驻流程。接入平台需使用阿里云账号登录...
PAI使用引导
AI加速 模型开发者使用AI加速器完成训练加速和推理加速，全面提升AI加速效率，详情请参见 AI加速概述。管理AI资产 PAI支持将数据集、模型、镜像和代码等作为AI资产进行管理。在模型开发过程中，模型开发者可以根据使用场景创建AI资产，并对...
01-AI加速场景架构部署
本场景架构适用于AI加速应用场景。在线下IDC训练加速业务中，经常遇到计算和通信的瓶颈，本方案为您介绍如何借助阿里云上的优势，来支持客户业务，并且基于CADT快速部署进行POC，模板验证后可以直接转生产，大大提升工作效率。
选择网络
全球加速：利用阿里云CDN边缘节点进行日志采集加速，相对公网采集在网络延迟、稳定性上具有很大优势。重要 全球加速采集功能处于公测阶段，提交 工单 联系日志服务技术支持人员为Project开启全球加速服务。如何选择网络 内网：ECS实例和...
游戏行业最佳实践
技术架构 阿里云全站加速DCDN旨在帮助游戏厂商在游戏更新/下载、回合游戏、实时对抗、信令交互、游戏出海、游戏安全等场景，构建快速、稳定、流畅的网络环境和访问体验。您可以在不修改业务逻辑的情况下，快速接入DCDN。应用场景 游戏下载...
基础型全球加速实例概述
基础型 全球加速 实例依托阿里云优质的全球互联网带宽与高品质传输网络，为您提供点到点的加速体验。基础型全球加速实例介绍 基础型 全球加速 用于三层（IP协议）加速场景，您只需要配置加速区域和终端节点组即可实现业务加速。接入方式 ...
标准型全球加速实例概述
标准型全球加速实例介绍 标准型 全球加速 实例支持多种接入方式，为全球多地域用户提供一张 全球加速 网络，端到端的加速用户访问后端服务，提升服务访问体验。接入方式 标准型 全球加速 实例支持加速IP和CNAME两种就近接入方式。客户端...
数据集加速器概述
数据集加速器（DatasetAccelerator，简称DatasetAcc）依托于阿里云构建的Paas服务，主要解决云上AI加速-数据集加速的场景。在机器学习训练场景下，通过对客户训练的数据集进行预分析和处理，为各种云原生的训练引擎提供统一的数据集访问...
使用Anycast IP加速海外服务
全球加速集成任播弹性公网IP服务可实现全球多地域通过一个固定加速IP就近接入阿里云加速网络，为全球用户提供高可用和高性能的网络加速服务。背景信息 全球加速为您提供以下两种加速IP类型：对比项 弹性公网IP 任播弹性公网IP 接入模式 ...
使用基础型全球加速实现访问加速
基础型 全球加速 实例提供加速地域到源站地域一对一的加速网络，支持三层（IP协议）网络加速。本文为您介绍如何快速上手基础型 全球加速，提升用户的访问速度和体验。场景示例 本文以下图的场景为例。某公司总部在阿里云美国（硅谷）地域，...
选择认证模组芯片
为保障客户的设备联网质量和性能，我们会对模组、芯片合作伙伴的品质进行认证，以确保最终设备厂家的设备在联网过程中的高稳定、高性能。前提条件 已创建产品，详见 创建产品。背景信息 您的设备在接入平台前，我们推荐您采购阿里IoT认证...
包年包月的基础带宽包
购买带宽计费方式为 按带宽 的 全球加速 实例后，您还需要为 全球加速 实例购买并绑定基础带宽包。基础带宽包提供了覆盖全球的公网接入带宽和阿里云内网传输带宽（不包含中国内地与海外互通专线带宽）。本文为您介绍包年包月付费模式基础...
神行工具包（DeepGPU）计费
神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch Inference、AI通信加速库Deepnccl、推理引擎DeepGPU-LLM、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署...
计费概述
说明 阿里云为首次使用 全球加速 产品的企业用户提供免费试用按量付费标准型 全球加速 实例的活动。您可以访问 阿里云免费试用 申请试用资格。试用教程，请参见 加速访问指定IP的后端服务。计费方式总览 全球加速 实例支持按量付费和包年...
购买与选型
加速区域 服务所在地域 服务端部署在 是否需要ICP备案（Web服务）带宽类型 中国内地 中国内地 阿里云 是 标准加速带宽 非阿里云 是 增强加速带宽 海外 阿里云 否 精品加速带宽 选择中国香港作为接入地域 非阿里云 否 精品加速带宽 选择中国...
加速区域概述
加速区域是阿里云地域的集合，每个加速区域包含一个或多个阿里云的地域。在创建全球加速实例时，您首先需要根据业务所需的就近接入模式选择加速IP类型，包括 弹性公网 IP EIP（Elastic IP Address）类型和任播弹性公网IP（Anycast Elastic ...
什么是AI通信加速库Deepnccl
说明 如需了解Deepytorch的更多信息，请参见 什么是AI加速器Deepytorch。Deepnccl通信加速 接口层 在接口层，通过DeepncclWrapper封装nccl-base函数，提供了对通信算法的通用支持。支持的NCCL通信算法包括allreduce（全局归约）、reduce-...
加速访问指定IP的后端服务
如果您的应用在访问时面临延迟大、丢包等问题，严重影响终端用户的访问体验时，您可以使用 全球加速 GA（Global Accelerator）将访问请求就近接入阿里云加速网络，实现应用加速。本文指导您使用 全球加速 服务加速访问指定IP的后端服务，...
按流量计费
加速区域 终端节点组所在区域 源站类型 加速区域公网流量费 终端节点组所在区域公网流量费 跨地域流量费 跨境流量费 中国内地 中国内地 阿里云服务 非阿里云服务 中国香港、中国澳门、中国台湾或其他国家和地区 阿里云服务 非阿里云服务 ...
添加和管理加速区域
添加加速IP 添加完加速区域与加速地域后，您还需要添加加速IP，客户端通过访问加速IP从加速地域进入阿里云加速网络。登录 全球加速管理控制台。在左侧导航栏，选择 基础型实例。在 实例列表 页面，找到目标基础型 全球加速 实例，单击实例...
云产品依赖与授权：DatasetAccelerator
使用大部分AI加速功能时，您仅需拥有对应模型开发、训练、推理的子产品操作权限即可，无需额外授权。仅使用数据集加速时，您需要购买数据集加速资源实例。此时资源购买的操作账号只能使用阿里云主账号，您可以为RAM用户授权数据集加速器的...
- 产品推荐
- 这些文档可能帮助您