横向逻辑回归二分类
横向逻辑回归的训练过程是利用最大似然估计方法，寻找能够最大化训练数据集中样本类别之间的差异性的模型参数。在二分类问题中，横向逻辑回归将输入数据特征映射到一个二元分类输出，即预测样本属于正例或负例的概率。组件截图 二、参数...
AD办公网络常见问题
原因定位 造成上图所示报错的原因可能有：创建办公网络过程中 域名称、域控主机名 或 DNS 地址 填写有误。企业AD域控服务器和AD办公网络的网络不互通。解决方案 检查创建办公网络的相关配置项信息填写准确无误。检查域名称 检查域名称的...
DeepSpeed分布式训练
DeepSpeed是一个开源的深度学习优化库，提供了分布式训练和模型优化的功能，可以有效的加速训练过程。本文介绍如何使用Arena快速、方便地提交DeepSpeed的分布式训练作业，并通过TensorBoard可视化查看训练作业。索引 前提条件 使用说明 ...
AIMaster：弹性自动容错引擎
为了在训练过程中能快速发现任务Hang异常的节点，DLC 提供了分阶段自定义任务Hang异常检测功能，支持您在不同训练阶段配置不同的任务Hang异常检测时长，具体配置方法如下。monitor.reset_config(jm_config_params)#Example:#monitor.reset_...
PS-SMART二分类训练
如果您在训练过程中，使用相同数据和参数，多次得到的结果不一致，属于正常现象。如果需要加速训练，可以增大 计算核心数。因为PS-SMART算法需要所有服务器获得资源后，才能开始训练，所以集群忙碌时，申请较多资源会增加等待时间。组件...
智能文创解决方案
alibaba-pai/mt5-title-generation-zh 批次大小 训练过程中的批处理大小。如果使用多机多卡，则表示每个GPU上的批处理大小。8 文本最大长度 表示系统可处理的序列整体最大长度。512 迭代轮数 训练总Epoch的数量。3 学习率 模型构建过程中的...
SDK相关FAQ
切换网络过程中网络不稳定，出现超时的概率较大。H5本机号码校验类FAQ 为什么使用中国联通4G网络，依然获取不到本机号码校验Token？原因有以下几种：使用了物联网卡。物联网卡通过装置在各类物体上的SIM卡、传感器、二维码等，经过接口与...
dsdemo代码介绍
本文为您介绍dsdemo代码所有功能板块,以及详细的使用说明。前提条件 已创建DataScience集群，详情请参见 创建Data Science集群。下载dsdemo代码：请已创建DataScience集群的用户，使用钉钉搜索钉钉群 32497587 加入钉钉群以获取dsdemo代码...
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
Llama-3开源模型全托管灵骏最佳实践
MMAP数据是一种预先执行tokenize的数据格式，可以减少训练微调过程中等待数据读入的时间，尤其在处理大规模数据时优势更为突出。具体操作步骤如下：在DSW的Terminal中执行以下命令，将Megatron格式的模型训练工具源代码 PAI-Megatron-Patch...
应用实践：Transformer模型训练加速
PAI-Rapidformer提供了丰富的模型训练加速方法，您只需要安装Rapidformer专属镜像，即可通过黑盒或者白盒化的方式对模型训练进行优化。本文为您介绍如何使用Rapidformer优化PyTorch版的Transformer模型训练。前提条件 已安装Rapidformer...
视频分类训练
算法简介 视频分类模块提供主流的3D卷积神经网络和Transformer模型用于视频分类任务的训练，目前已经支持的模型包括X3D系列的X3D-XS、X3D-M及X3D-L和Transformer模型的swin-t、swin-s、swin-b、swin-t-bert，其中swin-t-bert支持视频加文本...
使用POP API创建自学习模型
训练流程 训练过程步骤如下：准备训练语料，将训练语料导入自学习服务，并创建为训练数据集。数据集操作的状态转换 状态说明：状态 说明 Fetching 正在将训练数据从URL导入到自学习系统中。FetchingFailed 复制数据集出现错误，请检查训练...
性能指标
LogisticRegressionWithHe 10万 100维*100维 训练 50分钟 神经网络MLP 100万 100维*100维 训练 30分钟 决策树-XGBoostWithDp 5亿 100维*100维 离线预测 50分钟 决策树-GBDTWithDp 5亿 100维*100维 离线预测 120分钟 线性回归-...
已停售的实例规格
支持IPv6 支持ERI（Elastic RDMA Interface）超高网络收发包PPS能力 实例网络性能与计算规格对应（规格越高网络性能越强）适用场景：大数据场景应用，例如Spark、Hadoop 高性能科学计算和仿真计算 各种通用类型的企业应用，例如Redis c7re...
基本概念
cuDNN NVIDIA推出的用于深度神经网络的GPU加速库。DeepGPU 阿里云专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集合。AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研...
PAI图像分类（多标签分类）训练
oss:/path/to/train_*.tfrecord 无 test_data 是 训练过程中，评估数据的OSS路径。oss:/path/to/test_*.tfrecord 无 train_batch_size 是 训练的 batch_size。INT，例如32。无 test_batch_size 是 评估的 batch_size。INT，例如32。无 ...
LLM on DLC-Megatron on DLC最佳实践
大语言模型（LLM）是指参数数量达到亿级别的神经网络语言模型，例如：GPT-3、GPT-4、PaLM、PaLM2等。Megatron-LM 是由NVIDIA的应用深度学习研究团队开发的Transformer模型训练框架，它可以高效利用算力、显存和通信带宽，大幅提升了大语言...
在GPU实例上使用RAPIDS加速图像搜索任务
本文案例中，使用开源框架TensorFlow和Keras配置生产环境，然后使用ResNet50卷积神经网络完成图像的特征提取及向量化，最后使用RAPIDS cuML库的KNN算法实现BF方式的向量索引和检索。说明 BF（Brute Force）检索方法是一种百分百准确的方法...
模型创建
TFT TFT（Temporal Fusion Transformer）算法是基于Transformer机制的深度神经网络算法，详细信息，请参见 TFT论文。时序异常检测 esd 达摩院自研算法，适用于尖刺型异常（例如监控曲线出现尖刺的现象），对于数据点中有少量显著离群点的...
CREATE MODEL
TFT TFT（Temporal Fusion Transformer）算法是基于Transformer机制的深度神经网络算法，详细信息，请参见 TFT论文。时序异常检测 TIME_SERIES_ANOMALY_DETECTION esd 达摩院自研算法，适用于尖刺型异常（例如监控曲线出现尖刺的现象），...
使用AMD CPU实例部署通义千问Qwen-7B-Chat
ZenDNN运行库包括为AMD CPU架构优化的基本神经网络构建块的API，使深度学习应用程序和框架开发人员能够提高AMD CPU上的深度学习推理性能。wget ...
使用AMD CPU实例部署ChatGLM-6B
ZenDNN运行库包括为AMD CPU架构优化的基本神经网络构建块的API，使深度学习应用程序和框架开发人员能够提高AMD CPU上的深度学习推理性能。wget ...
概述
深度神经网络在图像分析和自然语言处理等学科中取得了前所未有的进步。强化学习成为补充传统监督学习的强大范式。然而，在目前的数据驱动的智能应用中，数据、特征和模型仍处于割裂状态。首先，数据工程师通过手工编写流程进行数据清洗和...
组件参考：所有组件汇总
组件类型 组件 描述 自定义组件 自定义组件 支持在AI资产管理中创建自定义组件，自定义组件创建成功后，您可以在Designer中将该组件与官方组件串联使用进行模型训练。源/目标 读OSS数据 该组件用来读取对象存储OSS Bucket路径下的文件或...
API详情
预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在预训练模型的基础之上，使用对齐机制打造了模型的chat版本。其中千问-1.8B是18亿参数规模的模型，千问-7B是70亿参数规模的模型，千问-14B是140亿参数规模的...
API详情
预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在预训练模型的基础之上，使用对齐机制打造了模型的chat版本。其中千问-1.8B是18亿参数规模的模型，千问-7B是70亿参数规模的模型，千问-14B是140亿参数规模的...
常见问题
当所在的网络环境需要使用代理访问公网时，可能会提示登录失败或账号无权限，需将通义灵码升级到 最新版本，确保 以下 host 可访问，如发现网络不通，需要添加白名单，可参考 网络代理配置 解决问题。curl ...
计算资源优化
降低冷启动概率 使用定时触发器预热函数。使用Initializer回调，函数计算会异步调用初始化接口，消除掉代码初始化的时间，在函数计算系统升级或者函数更新过程中，您对冷启动无感知。在实际应用过程中，用户侧的冷启动一般难以消除。例如，...
手动部署Stable Diffusion WebUI服务
关键参数配置如下，其余参数取默认：参数 示例值 说明 专有网络 名称 vpc_SDWebUI VPC名称，建议您在部署过程中新建一个VPC作为本方案的专有网络。IPv4网段 192.168.0.0/16 在创建VPC时，您必须按照无类域间路由块（CIDR block）的格式为您...
安全联邦学习-任务模式FL
三、安全联邦学习已支持的能力 用途 算法分类 已支持算法 分类 决策树 XGBoostWithDp GBDTWithDp 逻辑回归 LogisticRegressionWithHe 神经网络 神经网络MLP 回归 线性回归 LinearRegressionWithHe 神经网络 神经网络MLP 四、如何进行安全...
PAI-TF概述
背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种神经网络模型，对语音、图像及文本等领域的模型训练效率极佳。TensorFlow的功能丰富且强大，并拥有高度灵活的API，受到业界的高度关注。PAI-TF是人工智能平台...
安全联邦学习-工作流FL
三、安全联邦学习已支持的能力 用途 算法分类 已支持算法 分类 决策树 XGBoostWithDp GBDTWithDp 逻辑回归 LogisticRegressionWithHe 神经网络 神经网络MLP 回归 线性回归 LinearRegressionWithHe 神经网络 神经网络MLP 四、如何进行安全...
EasyCkpt：AI大模型高性能状态保存恢复
在训练过程中，可能会遇到硬件故障、系统问题、连接错误、以及其他未知的问题。这种频繁中断导致的训练进度的损失对于耗时又耗资源的大模型训练来说是难以承受的。尽管可以通过做Checkpoint来保存和恢复进度，但Checkpoint本身的耗时与模型...
EasyCKPT高性能CKPT发布
新增功能/规格 PAI-EasyCKPT是为PyTorch大模型训练场景而开发的高性能Checkpoint框架，通过异步化层次化保存、重叠模型拷贝和计算、网络感知异步存储的策略，实现近0开销的模型保存机制和大模型训练全过程精度无损的模型保存与恢复的能力。...
代码示例
Github DSW Gallery 使用PAI提供的TensorBoard服务，可视化训练作业过程。Github DSW Gallery 介绍如何提交一个PyTorch分布式训练作业。Github DSW Gallery 介绍如何在训练作业中保存和加载checkpoint，从而支持训练作业中断恢复。模型部署...
自建SNAT策略后网络不通
more/proc/sys/net/ipv4/ip_forward VPC上的VRoute路由配置问题 在网关上自建SNAT策略后，在网络访问过程中，先由客户端ECS发起请求，然后需要把这个请求转发到网关的ECS上。所以需要在VPC上的VRoute上配置相应的路由指向到这台网关的ECS上...
接入点对比
SSL（Secure Sockets Layer）：用以保障数据传输过程的安全，采用数据加密技术，防止数据在网络传输过程中被截取或者窃听。背景信息 公网：公网环境必须对消息进行鉴权与加密，SASL的PLAIN机制必须与SSL一起用作传输层，才能确保消息在没有...
常见问题
本文主要介绍自学习工具使用过程中的常见问题。如何快速进行标注？创建数据集 在数据集管理页面中单击新建按钮，或者直接点击【新建数据集】菜单，进入新建数据集界面。数据标注 添加标签：在标注界面顶部的工具条上点击【标签管理】可对...
FAQ
在将已知数据参与训练的过程中，训练节点会产生多个模型，选择不同模型的评估结果不同，这就需要对模型进行筛选评估，帮助用户最优模型，而评估的主要数据来源就是测试集，测试集是用来验证模型好坏的唯一数据来源。测试集支持带标注和不带...
- 产品推荐
- 这些文档可能帮助您