训练加速（Pai-Megatron-Patch）概述
背景信息 Pai-Megatron-Patch工具是阿里云机器学习平台PAI算法团队研发，基于阿里云智算服务PAI-灵骏平台的大模型最佳实践解决方案配套工具，旨在帮助大模型开发者快速上手灵骏产品，完成大语言模型（LLM）的高效分布式训练，有监督指令...
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
通义千问Qwen全托管灵骏最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现大语言模型（Qwen-7B、Qwen-14B和Qwen-72B）的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Qwen-7B模型为例，为您详细介绍该方案的开发流程。...
智能异常分析概述
有监督 有监督的学习是从标签化训练数据集中推断出函数或模型的机器学习任务。日志常量 日志往往由程序中的 logging 语句或者 print 语句产生。例如 connect mysql server,latency 212ms 日志可能是通过日志输出语句 logging.info("connect...
姜子牙通用大模型
Ziya-LLaMA通用大模型是由IDEA研究院出品的大...目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。开发者可以通过以下链接，了解如何通过大模型服务平台调用Ziya-LLaMA API。快速使用 API详情
姜子牙通用大模型
Ziya-LLaMA通用大模型是由IDEA研究院...目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。开发者可以通过以下链接，了解如何通过DashScope灵积模型服务调用Ziya-LLaMA API。快速使用 API详情
GBDT二分类V2
梯度提升决策树(Gradient Boosting Decision Trees)二分类，是经典的基于梯度提升（Gradient Boosting）的有监督学习模型，可以用来解决二分类问题。支持计算资源 支持的计算引擎为MaxCompute。算法简介 梯度提升决策树(Gradient Boosting ...
应用案例
它就是在分类之前通过目视判读和野外调查，对遥感图像上某些样区中影像地物的类别属性有了先验知识，对每一种类别选取一定数量的训练样本，计算机计算每种训练样区的统计或其他信息，同时用这些种子类别对判决函数进行训练，使其符合于对各...
组件参考：所有组件汇总
词频统计 该组件是指输入一些字符串（手动输入或者从指定的文件读取），用程序来统计这些字符串中总共有多少个单词，每个单词出现的次数。TF-IDF 该组件是一种用于资讯检索与文本挖掘的常用加权技术。通常在搜索引擎中应用，可以作为文件与...
概述
再比如，有些跨境电商平台在不同的国家有不同的站点，有些站点是新开的，只有很少的用户交互行为数据，这个时候可以用其他比较成熟的其他国家的站点的交互行为数据来训练模型，并用当前国家站点的少量样本做fine-tune，也能起到不错的冷...
PAIFlow Manifest参数说明
版本号推荐用v1.0.0的格式。provider String 无 是 工作流提供方，目前有以下两种：自定义工作流为用户的UID。官方工作流为PAI。guid String 无 否 唯一ID，同一个工作流内不允许重复。只用在临时节点中，用于标识临时节点。displayName ...
图像关键点训练
DetSourceCOCO 预训练模型oss路径 否 如果您有自己的预训练模型，则将该参数配置为预训练模型的OSS路径。如果没有配置该参数，则使用PAI提供的默认预训练模型。无 参数设置 关键点检测模型使用的backbone 是 选择使用的骨干模型，支持以下...
图像分类训练（torch）
如果您的业务场景涉及图像分类，则可以通过图像分类训练（torch）组件构建图像分类模型，从而进行模型推理。本文为您介绍图像分类训练（torch）组件的配置方法及使用示例。前提条件 已开通OSS并完成授权，详情请参见 开通OSS服务 和 云产品...
通用联邦学习模板
交叉验证：在交叉验证中，数据集被划分为训练集和验证集两部分，模型基于训练集进行训练，然后用验证集来评估模型的性能。这种方法可以有效地评估模型的泛化能力，并减少因样本随机性带来的影响。混淆矩阵：评估分类模型性能的一种重要工具...
推荐算法定制的最佳实践文档
U2I Trigger：指用户有交互行为的物品 行为时间窗口：指用多少天的数据来做训练。行为事件衰减系数：decay的参数 Trigger选取数目：指每个用户取多少个物品id去与etrec产出的i2i数据做笛卡尔积。建议取值在10到50之间。u2i行为权重：其中...
快速使用
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。当前在大模型服务平台部署服务时使用的ModelScope社区模型id：Fengshenbang/Ziya-LLaMA-13B-v1，模型版本：v1.0.3。更多信息可以参考...
快速使用
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。当前在灵积平台部署服务时使用的ModelScope社区模型id：Fengshenbang/Ziya-LLaMA-13B-v1，模型版本：v1.0.3。更多信息可以参考ModelScope上...
基于对象特征的推荐
基于对象特征的推荐场景通用流程 将数据导入MaxCompute，生成有监督的结构化数据。进行特征工程，例如数据的预处理和特征衍生。特征衍生的作用是扩充数据维度，使数据能更大限度地展示业务特点。将数据拆分为两份。其中一份作为训练数据，...
三方开源大语言模型
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。姜子牙通用大模型V1是大规模预训练语言模型，支持中文英文等不同语言输入。Dolly开源大语言模型 dolly-12b-v2 由Databricks出品的大规模...
API详情
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。当前在灵积平台部署服务时使用的ModelScope社区模型id：Fengshenbang/Ziya-LLaMA-13B-v1，模型版本：v1.0.3。更多信息可以参考ModelScope上...
API详情
目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。当前在大模型服务平台部署服务时使用的ModelScope社区模型id：Fengshenbang/Ziya-LLaMA-13B-v1，模型版本：v1.0.3。更多信息可以参考...
通过Elasticsearch机器学习实现业务数据的智能检测和...
创建推理机器学习任务 训练航班延误预测任务 本操作通过回归算法训练一个监督机器学习任务，使用Kibana自带的样例数据Sample flight data，该数据集为虚构的航班数据，通过回归算法根据历史数据训练航班延误时间的任务。预测任务可以为航空...
文本摘要（生成式）
洗洁精+白醋很多主妇其实都用过洗洁精来清洗油烟机，可能不得要领，清洁程度不一，小哥个人建议用清洁精+白醋，用来擦洗油烟机的面板和油盒，清洗油盒时，需要将油盒拿下来浸泡在洗洁精的温水中，浸泡半个小时左后，用抹布擦拭，可以看到...
什么是AutoML
举个简单的例子，模型有2个超参A和B，A可能的取值有（a，b，c），B可能的取值有（d，e），那么这个超参调优过程就是从A、B值的6种排列组合里，选出一种，使得模型训练有最佳效果。为了选出最优组合，最简单的方式是在同一个训练数据集上，...
常见问题
每次迭代好新的数据，最好把所有的最新数据放一起，从基础模型开始训练，不建议从之前SFT的模型开始训练（百炼支持的这种模型，更多是考虑训练成本，基于每次训练好的模型使用增量数据训练，比全量数据训练更快，但效果没那么好）。...
通过OpenAPI定制
2 CustomizedVoiceAudioDetect Scenario 场景，取值范围如下：story：故事 interaction：交互 navigation：导航 {"HttpCode":200,"Data":{"reason":"","pass":true},"Success":true} 本接口用来检测用户的朗读是否有明显的发音错误、嘈杂的...
标签传播分类
标签传播分类为半监督的分类算法，原理为用已标记节点的标签信息去预测未标记节点的标签信息。标签传播分类组件能够输出图中所有节点对应的标签及其权重占比。算法说明 在算法执行过程中，每个节点的标签按相似度传播给相邻节点，在节点...
API详情
其中模型的演变路径如下：moss-moon-003-base:MOSS-003基座模型，在高质量中英文语料上自监督预训练得到，预训练语料包含约700B单词，计算量约6.67x10^22^次浮点数运算。moss-moon-003-sft:基座模型在约110万多轮对话数据上微调得到，具有...
定制排序模型特征配置规范
本篇文档主要介绍定制排序模型的特征类型配置属性，不同特征配置有相应限制，以下是对应规范和限制。介绍 本篇文档主要介绍定制排序模型的特征类型配置属性，不同特征配置有相应限制，以下是对应规范和限制。公共属性 字段名 是否必选 含义...
缺失值填充
一、组件说明 在联邦学习任务...举例：在训练过程中，希望用训练数据的中位数来填充至预测数据中，此时可以将训练时使用的配置文件，通过【读配置文件】接入到【缺失值填充】的输入桩中，以此来保证训练数据和预测数据的一致性，如下图所示：
数据埋点指南
如下图中每个tag页为一个不同场景：总结来说：召回用什么场景ID，回传行为的时候就回传什么ID TAGS埋点 什么是tags TAGS对应的是user表和item表中的tags字段，是指您对内容（item）提炼的特征的文本描述，多个tags之间直接以英文逗号分隔。...
多轮对话管理
对话管理 图形版意图和表格版意图的最主要差别就是图形版用有向图的方式（替代平铺的方式）来做对话管理。我们提供了表格版切换到图形版的功能，在意图列表页，点击切换到新版本，此时会新创建一个图形版的意图。切换到图形版本后：相比于...
工况识别-训练
本文为您介绍工况识别-训练组件。计算逻辑原理 使用聚类、降维等无监督学习方法对工业数据进行分析，对不同工况数据分别建模。参数说明 IN端口-输入参数 参数名 参数描述 是否必填 输入数据类型 数据源类型 特征变量 用于建立训练模型的...
智能文创解决方案
阿里云PAI提供智能文创解决方案，帮助您快速搭建囊括模型离线训练、离线预测和在线部署的端到端全链路构建流程。旨在从冗长、重复的文本序列中抽取、精炼或总结出要点信息，实现各类文本生成任务，包括文本摘要生成、新闻标题生成、文案...
生产空间管理
例如您提供的训练数据是已打标的气球的图片，通过自学习平台，完成训练并部署服务后，可以通过服务验证来识别出图片什么地方有气球，并且将其轮廓用一系列坐标点返回。为了方便您使用，您可以通过以下文件快速上手自学习平台通用实例分割...
部署及微调Mixtral-8x7B MoE模型
单击 训练，PAI-QuickStart自动跳转到模型训练页面，并开始进行训练，您可以查看训练任务状态和训练日志。单击右上角 Tensorboard，您也可以一键打开TensorBoard查看模型的收敛情况。如果需要将微调训练完的模型部署为在线服务，可以在同一...
拒绝推断
拒绝推断（Reject Inference）是一种在金融场景经常和评分卡模型一起使用的数据增强方法，可以用来解决样本偏差问题。本文为您介绍拒绝推断组件的配置方法。算法简介 以信贷场景为例，用评分卡模型对用户的偿还、违约情况进行建模时只用到...
Callback 回调接口
然而往往因为AB实验的原因，一个推荐服务不是接受所有的实验流量的，没有办法给所有的实验流量来落实时特征，训练的时候又往往需要全量的训练样本进行训练，这些样本都需要有实时特征才能发挥实时特征的效果。因此，最佳近似实时的方式是...
情感分析
服务开通与资源包购买 预训练模型使用前，请确认是否已经开通了NLP自学习平台服务，开通后可购买资源包。NLP自学习平台：开通地址 自学习平台资源包：购买地址 一、创建项目 在NLP自学习平台中【点击进入自学习管控台】，支持多个基本项目...
AI写真：PHP SDK使用说明
String 需要保存job_id来进行训练结果查询；需要保存model_id来对进行写真制作服务的请求。训练结果查询（$jobApi->getAsyncJob）请求代码示例如下：?PHP namespace Swagger\Client;use Exception;use Swagger\Client\Configuration;use ...
- 产品推荐
- 这些文档可能帮助您