安装Pai-Megatron-Patch镜像
本文为您介绍安装Pai-Megatron-Patch镜像的使用限制和操作要点。使用限制 安装Pai-Megatron-Patch镜像时，仅支持使用GPU类型的实例。显卡驱动版本在460.32及以上。操作步骤 在DLC中安装Pai-Megatron-Patch镜像 DLC 为开发者和企业提供了云...
安装和配置
安装 请通过以下命令安装PAI Python SDK（请使用Python>=3.6）。pip install"alipai>=0.4.0"初始化配置 在命令行终端中执行以下命令，并按照以下操作引导逐步完成初始化配置。以下代码，请在安装完成SDK之后，在命令行终端中执行。python-m...
安装Blade
如果您的模型使用的TensorFlow框架，可自行安装社区TensorFlow，如果需要TensorRT的支持，也可以安装PAI团队预编译的Tensorflow，详情请参见 安装TensorFlow。如果您的模型使用的PyTorch框架，可自行安装社区PyTorch，如果需要支持CUDA 10....
训练加速（Pai-Megatron-Patch）概述
Pai-Megatron-Patch结合了多种优化技术，对PyTorch版Transformer模型的训练进行优化...使用流程 您可以参考如下流程使用Pai-Megatron-Patch：安装Pai-Megatron-Patch镜像 参数配置指导 应用实践：Transformer模型训练加速 参考：性能基准评测
使用PAI Python SDK训练和部署PyTorch模型
主要流程包括：安装和配置SDK 安装PAI Python SDK，并配置访问密钥AccessKey，使用的工作空间，以及OSS Bucket。准备训练数据 我们下载一个MNIST数据集，上传到OSS上供训练作业使用。准备训练脚本 我们使用PyTorch示例仓库中的MNIST训练...
部署及微调Qwen1.5系列模型
通过PAI Python SDK使用模型 PAI-QuickStart提供的预训练模型也支持通过 PAI Python SDK 进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码：#安装PAI Python SDK python-m pip install alipai-upgrade#交互式的...
部署及微调Llama-3系列模型
通过PAI Python SDK使用模型 PAI-QuickStart提供的预训练模型也支持通过 PAI Python SDK 进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码：#安装PAI Python SDK python-m pip install alipai-upgrade#交互式的...
PAI轻量化控制台部署指南
步骤五：安装PAI组件 登录 容器服务管理控制台。在控制台左侧导航栏，单击 集群。在 集群列表 页面，单击目标集群名称或者目标集群右侧 操作 列下的 详情。在集群管理页左侧导航栏，选择 应用>云原生AI套件。在 云原生AI套件 页面，单击 一...
部署及微调Qwen-72B-Chat模型
通过PAI Python SDK使用模型 PAI-QuickStart提供的预训练模型也支持通过 PAI Python SDK 进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码：#安装PAI Python SDK python-m pip install alipai-upgrade#交互式得...
部署及微调Mixtral-8x7B MoE模型
通过PAI Python SDK使用模型 PAI-QuickStart提供的预训练模型也支持通过 PAI Python SDK 进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码：#安装PAI Python SDK python-m pip install alipai-upgrade#交互式的...
安装eGPU
通过安装包安装eGPU 说明 灵骏的计算节点默认已内置安装了eGPU优化套件，通常场景下您无需手动安装。获得安装包之后，可直接通过安装命令进行安装和一般配置。安装命令（CentOS系统）rpm-ivh./amp-vgpu-runtime-1.5.xxx-1.x86_64.rpm echo-...
安装ACCL库
安装ACCL库 说明 灵骏的计算节点默认已内置安装了ACCL库，通常场景下您无需手动安装ACCL库。ACCL目前仅支持Linux环境，基本的运行依赖CUDA运行时。在PyTorch中使用ACCL时，需要安装 ACCL库 与 Torch ACCL插件 两部分。若需使用高速RoCE网络...
附录：历史版本下载与安装
本文提供Blade历史版本的安装命令和SDK下载链接。v3.27.0 Python包安装命令如下：CPU Tensorflow 1.15.0与PyTorch 1.6.0。pai_blade_cpu pip3 install pai_blade_cpu=3.27.0+1.15.0.1.6.0-f ...
DSW支持R语言
登录 PAI控制台 在左侧导航栏单击 工作空间列表，在工作空间列表页面中单击待操作的工作空间名称，进入对应工作空间内。在页面左上方，选择使用服务的地域。在左侧导航栏，选择 模型开发与训练>交互式建模（DSW）。可选：在 交互式建模...
优化PyTorch模型
PAI-Blade提供了丰富的模型优化方法，您只需要在本地环境中安装Wheel包，即可通过调用Python API的方式进行模型优化。本文介绍如何使用PAI-Blade优化PyTorch模型，所有实验结果均在NVidia T4卡上测得。前提条件 已安装PyTorch及PAI-Blade的...
优化TensorFlow模型
PAI-Blade提供了丰富的模型优化方法，您只需要在本地环境中安装Wheel包，即可通过调用Python API的方式进行模型优化。本文介绍如何使用PAI-Blade优化TensorFlow模型，所有实验结果均在NVidia T4卡上测得。前提条件 已安装TensorFlow及PAI-...
PAI-TF概述
PAI-TF是人工智能平台PAI为了追求更极致的深度学习训练效率，优化原生Tensorflow的内核并开发周边工具，推出的一款产品。...支持的Python三方库 PAI-TF已经安装了Numpy及Six等常见的Python三方库，您可以在TensorFlow作业中直接导入相关的库。
推理加速（Blade）概述
工作原理 PAI-Blade以Wheel包的形式安装到用户环境，无需申请资源、上传模型和数据的繁琐步骤。您可以在代码中调用PAI-Blade的Python接口，使模型优化集成在工作流中，且能够在本地对优化完成的模型进行性能验证。此外，您还可以便捷地尝试...
创建自定义组件
PAI提供自定义算法组件功能，便于您根据使用场景创建自定义组件。您可以在Designer中将自定义组件和PAI官方组件串联使用，实现更灵活的工作流编排。本文为您介绍如何创建自定义组件。背景信息 自定义组件底层采用了阿里云开源的KubeDL，这...
提交训练作业
示例代码如下：说明 您可以通过 公共镜像列表 查看PAI提供的镜像内安装的Python三方库信息。from pai.image import retrieve,list_images,ImageScope#获取PAI提供的所有PyTorch训练镜像。for image_info in list_images(framework_name=...
AI助手使用说明
安装AI助手并开启PAI的作业监控和恢复功能后，当训练任务发生故障或异常时，能自动上报故障信息、隔离问题节点，无需人工干预即可快速恢复任务。本文为您介绍AI助手的具体配置方法。前提条件 已创建带有ACK灵骏托管版的集群。具体操作，请...
使用SDK部署PyTorch模型推理
PAI-Blade提供了C++ SDK帮助您部署优化后的模型。本文以PyTorch模型为例，介绍PAI-Blade的SDK的使用方法。前提条件 已使用PAI-Blade对PyTorch模型进行了优化，详情请参见 优化PyTorch模型。已安装SDK并获取鉴权Token，详情请参见 安装Blade...
授权信息
acs:pai:{#regionId}:{#accountId}:*无 无 pai:CreateCodeSource CreateCodeSource Write 全部资源 acs:pai:{#regionId}:{#accountId}:*无 无 pai:CreateDataset CreateDataset Write 全部资源 acs:pai:{#regionId}:{#accountId}:*无 无 ...
服务接入点
亚太 地域名称 地域ID 公网接入地址 VPC接入地址 华北2（北京）cn-beijing pai-eas.cn-beijing.aliyuncs.compai-eas-manage-vpc.cn-beijing.aliyuncs.com华北3（张家口）...华北6（乌兰察布）...
服务接入点
亚太 地域名称 地域ID 公网接入地址 VPC接入地址 华北2（北京）cn-beijing pai-dsw.cn-beijing.aliyuncs.compai-dsw-vpc.cn-beijing.aliyuncs.com华北6（乌兰察布）...华东1（杭州）...
服务接入点
亚太 地域名称 地域ID 公网接入地址 VPC接入地址 华北2（北京）cn-beijing pai.cn-beijing.aliyuncs.compai-vpc.cn-beijing.aliyuncs.com华北6（乌兰察布）...华东1（杭州）...
服务接入点
亚太 地域名称 地域ID 公网接入地址 VPC接入地址 华北2（北京）cn-beijing pai-dlc.cn-beijing.aliyuncs.compai-dlc-vpc.cn-beijing.aliyuncs.com华北6（乌兰察布）...华东1（杭州）...
PAI-EasyVision简介
PAI-EasyVision（视觉智能增强算法包）提供多种模型的训练及预测功能，旨在帮助计算机视觉应用开发者方便快捷地构建视觉模型并应用于生产。随着深度学习技术的快速发展，计算视觉技术已经跨入大规模商业化应用阶段。对于视觉AI应用开发者而...
PAI ArtLab基础功能展示
本文为您介绍PAI ArtLab基础功能。
PAI使用引导
使用指引 管理员通常参与以下模块：工作空间及成员管理 工作空间是PAI的顶层概念，为企业和团队提供统一的计算资源管理及人员权限管理能力。管理员可以创建及管理工作空间、编辑工作空间内的成员，详情请参见 工作空间管理。计算资源管理 ...
代码示例
PAI Python SDK提供了丰富的代码示例Notebook，开发者可以通过这些Notebook快速学习如何通过Python Python SDK在PAI完成模型的开发部署等工作。模型开发 打开Notebook 示例描述 Github DSW Gallery 使用MNIST数据集和PAI预置的PyTorch镜像...
ACS
名称 类型 描述 示例值 object ACS 相关配置 ACSQuotaId string ACS Identifier rq-3kbt2gtimmyw7fgfgothocvh AssociatedProducts array 可使用 ACS Quota 的...可同时选择：PAI-DLC,PAI-DSW PAI-EAS string 使用 ACS 资源的产品码 PAI-DLC
开通PAI并创建默认工作空间
工作空间是PAI的顶层概念，为企业和团队提供统一的计算资源管理及人员权限管理能力，为AI开发者提供支持团队协作的全流程开发工具及AI资产管理能力。因此，使用PAI功能时需要先开通PAI并创建默认工作空间。本文为您介绍开通需要的权限、...
PAI接入ACS容器计算服务
PAI训练和推理可直接复用ACS容器计算服务的资源。适用客户 模型训练以及模型服务/AI推理业务的客户。新增功能/规格 容器计算服务ACS是以 K8s 为使用界面供给容器算力资源的云计算服务，提供符合容器规范的算力资源，支持 Serverless 形态的...
自定义RAM授权策略
acs:pai:*:*:resourcegroup/resourcegroup3"]},{"Effect":"Allow","Action":["pai:CreateQuota","pai:UpdateQuota","pai:ScaleQuota","pai:DeleteQuota","pai:GetQuota","pai:ListQuotas"],"Resource":["acs:pai:*:*:quota/*"]}]} 授权...
ImageItem
ImageTag string Docker 镜像的 Tag tensorflow-training:2.3-cpu-py36-ubuntu18.04 ImageUrl string 镜像 URL 地址 registry.cn-beijing.aliyuncs.com/pai-dlc/tensorflow-training:2.3-cpu-py36-ubuntu18.04 ImageUrlVpc string镜像 URL 的...
产品架构
本文为您介绍PAI的产品架构。如上图所示，PAI的业务架构分为以下四层：基础资源层（计算资源&基础设施）：基础设施包括CPU、GPU、高速RDMA网络以及容器服务ACK等。计算资源包括云原生资源（灵骏计算资源和通用计算资源）和大数据引擎资源...
PAI图像分类预测
PAI-EasyVision提供图像分类的训练和预测能力，支持多机分布式训练和预测。本文为您介绍如何通过PAI-EasyVision使用已有的训练模型完成图像分类离线任务。数据格式 请参见 输入数据格式。图像分类预测 基于已有的文件列表，您可以通过PAI...
CreateMember-工作空间添加成员
角色名可能值：PAI.AlgoDeveloper：算法开发 PAI.AlgoOperator：算法运维 PAI.LabelManager：标注管理员 PAI.MaxComputeDeveloper：MaxCompute开发 PAI.WorkspaceAdmin：管理员 PAI.WorkspaceGuest：访客 PAI.WorkspaceOwner：负责人 PAI....
PAI-TF日志查看方式
PAI-TF日志分为工作流运行状态日志和Logview日志，其中PAI-TF的Logview日志蕴含更多的工作流信息。如果您的工作流在运行过程中报错，则可以通过该操作查看具体报错信息。警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的...
- 产品推荐
- 这些文档可能帮助您