线性回归
在模型训练过程中，采用最小二乘法（least squares）估计模型参数，即最小化输出结果与预测值之间的误差平方和。线性回归模型具有简单、易于理解和解释的特点，同时可以通过多项式扩展等方法处理非线性数据，具有较高的泛化能力和预测准确...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed介绍 AIACC-AGSpeed简称为AGSpeed，AGSpeed作为阿里云自研的AI训练计算优化编译器，对PyTorch深度学习框架训练过程中的计算性能进行深度优化，具有其显著的计算性能优势。AGSpeed的组件架构图如下所示：组件架构 说明 编译器...
One-Hot编码
举例：在训练过程中，训练数据的【One-Hot编码】为按阈值过滤，过滤阈值为100，映射关系为“红色”->[0,0,1]，“蓝色”->[0,1,0]。希望用训练数据的缩放比例来填充至预测数据中，此时可以将训练时使用的配置文件，通过【读配置文件】接入到...
横向One-Hot编码
举例：在训练过程中，训练数据的【横向One-Hot编码】为按阈值过滤，过滤阈值为100，映射关系为“红色”->[0,0,1]，“蓝色”->[0,1,0]。希望用训练数据的缩放比例来填充至预测数据中，此时可以将训练时使用的配置文件，通过【读配置文件】接...
图像分类训练（torch）
[30,60,90]训练batch_size 是 训练的批大小，即模型训练过程中，每次迭代（每一步）训练的样本数量。2 评估batch_size 是 评估（验证）的批大小，即模型验证过程中，每次迭代（每一步）加载的样本数量。2 总的训练迭代epoch轮数 是 所有...
AIACC-ACSpeed体验示例
操作步骤 本文以原生DDP的启动方式运行 Pytorch_ddp_benchmark.py 文件，以模型为resnet50的amp混合精度训练为例，通过适配ACSpeed v1.0.2来体验单机8卡和多机多卡实例类型的分布式训练过程和性能提升效果。重要 在操作前，确保您已创建...
图像关键点训练
170,200 训练batch_size 是 训练的批大小，即模型训练过程中，每次迭代（每一步）训练的样本数量。32 评估batch_size 是 评估（验证）的批大小，即模型验证过程中，每次迭代（每一步）加载的样本数量。32 总的训练迭代epoch轮数 是 所有...
文本摘要训练
批大小 训练过程中的批处理大小。INT类型，默认值为8。如果使用多机多卡，则表示每个GPU上的批处理大小。文本最大长度 表示系统可处理的序列整体最大长度。INT类型，范围为（1，512），默认值为512。训练轮数 训练总Epoch的数量。INT类型，...
PAI-EasyVision简介
对接在线服务平台 EAS 训练过程会产出SaveModel，用户可以自行接入原有的在线预测业务系统。同时，EAS 提供了强大的在线预测服务能力，实现了PAI-EasyVision EAS Python Processor，用户只需要在配置文件中配置模型地址及模型类别信息，...
产品计费
模型训练过程中如果调整过Epoch参数值，训练过程中的计费逻辑是怎么算的？设置 Epoch参数后 训练Tokens量预估计算口径：训练数据量xEpoch参数x0.1/1000，由于训练过程有一定代码参与，会额外增加少量toknes（预估不到10%）。Epoch为模型...
如何开启模型训练
开始训练 预览你的训练配置，准备开始训练，开始训练将进入队列，可在模型管理列表刷新状态，同时，可查看训练过程中的相关指标，训练结束后将通过推送通知。重要 模型调优将产生训练费用，训练价格 0.1元/千tokens，点击查看 产品计费。...
什么是AI分布式训练通信优化库AIACC-ACSpeed
优化方法 针对上述通信算法实现autotuner，包括warmup、多维度perf_time统计以及top_k_algo的retuning等机制，从而实现在实时训练过程中，针对特定网络选择最优通信算法，保证端到端的性能最优。优化效果 该算法在多机型的不同模型上，均能...
使用AIACC-Training TensorFlow版
以Keras形式的MNIST训练模型启动单机2卡为例，启动命令如下：perseusrun-np 2-H localhost:2 python tensorflow_keras_mnist.py 常见问题 训练过程中出现OOM（显存不足）报错 您可以识别以下几种可能情况并解决。使用 nvidia-smi 检测启动...
标注模板说明
以上三个阶段合在一起才组成了一个ChatGPT完整的训练过程，且会持续迭代；在整个训练过程中，人工标注的能力尤其在步骤1和步骤2中发挥了核心作用。尽管在这两个步骤中，标注数据的量理论上是越多越好，但它们与预训练阶段所依赖的大规模无...
生成中文摘要
您可以单击 任务日志，查看训练过程。四、部署和调试微调后的模型 在 任务详情 页面 模型部署 区域，单击 部署。页面自动跳转到 服务详情 页面，您可以在 基本信息 区域查看模型服务部署状态。当 状态 变为 运行中 时，表明模型服务已成功...
横向分箱
举例：在训练过程中，训练数据的分箱为横向等频分箱，经计算，分箱取值点为[2.2，3.3]。希望用训练数据的缩放比例来填充至预测数据中，此时可以将训练时使用的配置文件，通过【读配置文件】接入到【横向分箱】的输入桩中，以此来保证训练...
分箱
举例：在训练过程中，训练数据的分箱为等频分箱，经计算，分箱取值点为[2.2，3.3]。希望用训练数据的缩放比例来填充至预测数据中，此时可以将训练时使用的配置文件，通过【读配置文件】接入到【分箱】的输入桩中，以此来保证训练数据和预测...
三方开源大语言模型
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。3是ChatGLM 系列最新一代的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：...
文本摘要预测
参数设置 批次大小 训练过程中的批处理大小。INT类型，默认值为8。如果使用多机多卡，则表示每个GPU上的批处理大小。文本最大长度 表示序列整体最大长度。INT类型，取值范围为（1，512），默认值为512。语言 表示当前文本处理的语言：zh：...
安装和使用AIACC-AGSpeed
AIACC-AGSpeed（简称AGSpeed）专注于优化PyTorch...AGSpeed Autotuning Log AGSpeed会在训练过程中的前几个步骤中进行Autotuning操作，自动选择性能最佳的后端，如果训练过程的Autotuning操作中，出现以下Log表示AGSpeed加速功能已成功启用。
机器阅读理解预测
参数设置 批次大小 训练过程中的批处理大小。如果使用多机多卡，则表示每个GPU上的批处理大小。INT类型，默认值为256。篇章最大长度 表示系统可处理的篇章最大长度，INT类型，默认值为384。问句最大长度 表示系统可处理的问句最大长度，INT...
机器阅读理解训练
参数设置 批次大小 训练过程中的批处理大小，INT类型，默认值为4。如果使用多机多卡，则表示每个GPU上的批处理大小。篇章最大长度 表示系统可处理的篇章最大长度，INT类型，默认值为384。问句最大长度 表示系统可处理的问句最大长度，INT...
快速提交MPIJob训练任务
这两种角色在训练过程中需要进行通信。在DLC中，针对Launcher角色已经设置了默认环境变量，您也可以根据具体场景的需求，在执行命令时配置环境变量以覆盖默认配置。环境变量 描述 默认值 适用场景 OMPI_MCA_btl_tcp_if_include 为Launcher...
PAI图像检测训练
oss:/path/to/train_*.tfrecord 无 test_data 是 训练过程中评估数据的OSS路径。oss:/path/to/test_*.tfrecord 无 train_batch_size 是 训练的 batch_size。INT，例如32。无 test_batch_size 是 评估的 batch_size。INT，例如32。无 train_...
使用EAIS训练PyTorch模型（EAIS内置AIACC-Training）
背景信息 目前只有Python脚本可以训练PyTorch模型，本文介绍使用Python脚本训练PyTorch模型的具体操作，如果您在使用EAIS训练过程中遇到问题，请联系EAIS技术支持。训练特点 使用EAIS实例进行AI训练时，具有如下特点：通过在ECS实例上绑定...
基于抢占式实例的弹性训练
训练过程保护：借助抢占式实例的回收通知机制，可以在实例被回收前提前保存模型Checkpoint，确保训练进度不丢失，即使在实例突然释放的情况下也能恢复训练。容错与恢复机制：具备Fail tolerance和Failover能力，当部分抢占式实例被回收时，...
基于eGPU优化套件的ResNet50模型训练和推理
本文以卷积神经网络模型ResNet50的训练和推理为例，为您介绍如何通过Docker或Kubernetes使用eGPU优化套件，进行GPU容器虚拟化和资源共享。本实践中的ResNet50模型基于NVIDIA官方开源代码DeepLearningExamples实现。步骤一：准备模型和数据...
云产品依赖与授权：Designer
OSS：训练过程中各种中间数据、训练模型需要依赖OSS进行存储。建议您提前做好开通和授权操作。通用训练资源：Designer中提供了基于通用训练资源进行训练的深度学习算法，且自定义 Python脚本 组件也依赖通用训练资源，推荐您在使用前进行...
PS-SMART回归
如果您在训练过程中，使用相同数据和参数，多次得到的结果不一致，属于正常现象。如果需要加速训练，可以增大 计算核心数。因为PS-SMART算法需要所有服务器获得资源后，才能开始训练，所以集群忙碌时，申请较多资源会增加等待时间。注意...
API概览
调用此接口后，会同步返回 JobId，训练过程为异步过程。在训练期间，您可以通过调用 GetCustomizedVoiceJob-查询人声克隆训练任务接口来获取当前任务是否完成或训练状态等信息。GetCustomizedVoiceJob 查询人声克隆任务 查询单个人声克隆...
使用AIACC-Training PyTorch版
您可以通过以下操作体验训练过程。进入示例代码目录。cd `echo$(python-c"import perseus;print(perseus)")|cut-d\'-f 4|sed"s/\_\_init\_\_\.py/"`examples/启动训练。采用原生DDP的启动方式运行pytorch_ddp_benchmark.py脚本，以下示例为...
使用EasyASR进行语音分类
在模型训练过程中，系统会保存多个Checkpoint，您可以根据实际情况修改该路径。num_audio_features：语音特征的维度，您可以根据实际情况修改该路径。label_set：语音分类的标签集合，使用半角逗号（,）分隔，您可以根据实际情况修改。eval...
快速开始
重要 模型训练过程中，如出现“FAILED”状态，可根据code参数判断原因，详见 API详情 错误码。获取模型名称 人工审核通过后，再次查询训练状态，获取最终模型名称。说明 需要替换示例中的代码才能正常运行：your-dashscope-api-key，您的...
快速开始
重要 模型训练过程中，如出现“FAILED”状态，可根据code参数判断原因，详见 API详情 错误码。获取模型名称 人工审核通过后，再次查询训练状态，获取最终模型名称。说明 需要替换示例中的代码才能正常运行：your-dashscope-api-key，您的...
使用AIACC-Training MXNet版
您可以通过以下操作体验训练过程。进入示例代码目录。cd `echo$(python-c"import perseus;print(perseus)")|cut-d\'-f 4|sed"s/\_\_init\_\_\.py/"`examples/启动分布式训练。以启动单机8卡的MNiST训练模型为例，示例命令如下：perseusrun-...
机器阅读理解解决方案
参数设置 批次大小 训练过程中的批处理大小。如果使用多机多卡，则表示每个GPU上的批处理大小。4 说明 由于滑动窗口机制的存在，训练时批次大小不宜设置过大，否则易造成内存溢出。篇章最大长度 表示系统可处理的篇章最大长度。384 问句...
Llama3-8B大模型微调训练
use_peft：在训练过程中使用参数有效调优PEFT（Parameter-Efficient Fine-Tuning）方法。load_in_4bit：指示模型权重载入时使用4位精度，减少内存消耗。peft_lora_r32：如果使用了LoRA（Low-Rank Adaptation）作为参数有效调优方法的一部分...
使用EasyASR进行语音识别
在模型训练过程中，系统会保存多个Checkpoint，您可以根据实际情况修改该路径。vocab_file：ASR模型对应的汉字词汇表。重要 在进行模型训练和评估时，必须使用相同的词汇表。eval_data：评测ASR模型所用的TFRecord，参数输入格式与 train_...
API详情
如训练过程中发现数据质量问题将导致最终模型效果不理想时，可以通过取消训练任务避免资源浪费。请求方法 HTTP POST，URL传参，可使用命令行或其他语言调用。接口约束 任务状态为PENDING、RUNNING时可以取消，其他状态时无法取消。参数列表...
API详情
如训练过程中发现数据质量问题将导致最终模型效果不理想时，可以通过取消训练任务避免资源浪费。请求方法 HTTP POST，URL传参，可使用命令行或其他语言调用。接口约束 任务状态为PENDING、RUNNING时可以取消，其他状态时无法取消。参数列表...
- 产品推荐
- 这些文档可能帮助您