JindoData版本已知问题
JindoSDK 4.3.0版本（EMR-3.40.0或EMR-5.6.0版本集群）使用MagicCommitter时，会有频繁调用uploadPart问题，出现“Part number must be an integer between 1 and 10000”异常。您可以将JindoSDK升级到4.3.1及以上版本，EMR集群JindoSDK...
GBDT二分类V2
梯度提升决策树(Gradient Boosting Decision Trees)二分类，是经典的基于梯度提升（Gradient Boosting）的有监督学习模型，可以用来解决二分类问题。支持计算资源 支持的计算引擎为MaxCompute。算法简介 梯度提升决策树(Gradient Boosting ...
组件参考：所有组件汇总
词频统计 该组件是指输入一些字符串（手动输入或者从指定的文件读取），用程序来统计这些字符串中总共有多少个单词，每个单词出现的次数。TF-IDF 该组件是一种用于资讯检索与文本挖掘的常用加权技术。通常在搜索引擎中应用，可以作为文件与...
Dataphin中周期任务在运行时为何会出现等待资源问题
问题描述 夜间周期性任务出现高并发时，运行过程中有些任务会出现等待资源问题，原本只需要几十秒的任务，有时需要20多分钟，为什么会出现这种情况？是否有改善的方案？问题原因 任务会出现等待资源问题是由于mesos资源分配不足导致的。...
录音指导
混响大的数据在频谱图中表现为单字能量有残留，在句末尤其明显，会影响下一个字的清晰度，如下图所示：在低混响的数据中，每个字的能量图会有相对清晰的边界（如下图），图中最后位置附近的残留是正常的呼吸音，非混响，录制时无需特别控制...
录音指导
混响大的数据在频谱图中表现为单字能量有残留，在句末尤其明显，会影响下一个字的清晰度，如下图所示：在低混响的数据中，每个字的能量图会有相对清晰的边界（如下图），图中最后位置附近的残留是正常的呼吸音，非混响，录制时无需特别控制...
概述
这就导致了不同系统之间会进行数据迁移，同一份数据可能在不同源之间冗余，进而出现数据不一致的问题，以及特征难管理、模型难升级等困境。除此之外，数据工程师、算法工程师和开发工程师的人力成本也是当前数据驱动的智能决策应用难以大...
分析视图简介
堆外内存 有时候应用会出现物理内存使用越来越多的情况,而堆外内存的不合理使用可能是导致这个情况的原因之一。该视图列出了应用目前使用的所有 java.nio.DirectByteBuffer 对象以及对应的堆外内存信息,用于排查由于堆外内存导致的物理内存...
如何处理常见的Pod问题？
部署在 Serverless 应用引擎 SAE（Serverless App Engine）上的应用运行时，可能会出现Pod问题。本文介绍常见的Pod问题和解决方法。ImagePullBackOff 当 SAE 无法获取到Pod中某个容器的镜像时，将出现此错误。可能原因：镜像名称无效，例如...
训练加速（Pai-Megatron-Patch）概述
背景信息 Pai-Megatron-Patch工具是阿里云机器学习平台PAI算法团队研发，基于阿里云智算服务PAI-灵骏平台的大模型最佳实践解决方案配套工具，旨在帮助大模型开发者快速上手灵骏产品，完成大语言模型（LLM）的高效分布式训练，有监督指令...
常见问题
继续预训练主要是为了学习领域内的特有知识，有了领域知识后再SFT是会有一定提升，但成本较高，对数据数量、质量、信息量等要求都很高，远不止100w条，一般是千万以上，训练时间、资源消耗对应也会高出很多。另外，现在的SFT就是全量超参数...
RDMA：使用高性能网络进行分布式训练
NCCL_IB_TIMEOUT 增加RDMA连接超时时间，可以提升训练任务时的容错性能，若未配置或配置错误可能会导致训练任务出现中断。NCCL_IB_QPS_PER_CONNECTION 适当增加NCCL中每个连接的QP数量，可以有效提高网络吞吐率。配置镜像 官方镜像 基于...
2023年
无 缺陷修复 修复智能诊断功能统计表大小时可能会出现数字溢出的问题，现已将统计表大小的列由integer数据类型修改为bigint数据类型。修复分区表UPDATE分布键列时出现 tuple already updated by self 错误信息的问题。修复Master节点不回收...
JindoSDK访问OSS出现Reached timeout问题
根据异常栈查看上下文：异常栈有Rename字样 异常栈有InputStream或Read字样 异常栈有OutputStream、Write或Close字样 异常栈有getFileStatus字样 您执行如下命令访问OSS时，可能会出现Reached timeout问题。rm命令 ls命令 异常栈有Rename...
语音识别问题排查
本文为您介绍语音识别中出现问题的排查步骤及解决方案。排查步骤 使用cooledit或者Adobe Audition软件查看语音格式，播放试听并查看分轨情况、波形、能量和频谱图。ASR识别标准格式：8KHz或16KHz采样率、16bit采样位数、单声道的语音数据...
时序引擎版本说明
修复并发更新Schema时会出现大量版本冲突的问题。修复Lindorm ML时序预测在预测条件为大于或小于某时间点时，拉取数据不足的问题。修复Lindorm ML时序异常检测ostl-ttest算法和ostl-esd在数据量较大时会报错的问题。优化Lindorm ML时序异常...
数据标注
答：标注的数据越多且越多样，模型的泛化性能就会越好,如果您希望模型具备好的性能，标注数据这一关是必不可少的。我们不建议标几条数据试试效果，因为极少的样本模型是学不到规律的，因此不会有好的效果。另外，如果您有多个类型的样本，...
SmartMetrics Holiday功能
如果不配置Holiday，可能会出现以下两种情况：在模型训练过程中，误以为指标曲线上所有的峰值都是它季节性特征的一部分，这会导致算法预测出来的上下边界出现偏差。因为模型无法对未来Holiday内指标的上下边界做出准确的预测，可能会出现...
SmartMetrics Holiday功能
如果不配置Holiday，可能会出现以下两种情况：在模型训练过程中，误以为指标曲线上所有的峰值都是它季节性特征的一部分，这会导致算法预测出来的上下边界出现偏差。因为模型无法对未来Holiday内指标的上下边界做出准确的预测，可能会出现...
什么是AI分布式训练通信优化库AIACC-ACSpeed
全链路优化 问题分析 模型训练包括计算、通信、参数更新的完整过程，不同模型还会有不同的梯度（即通信量），会导致不同通信算法的性能差异。不同粒度的overlapping会导致整体性能表现的差异，计算和通信的耦合会导致全局非最优的情况发生...
快速启动AIRec冷启动版
重要 开启数据开关后，推送实时数据即开始按量计费，产生费用，因此不推送数据或数据出现问题时，切记关闭数据开关，以免产生不必要的费用。五、配置实例 1、定义新用户口径及冷启动场景，此处定义影响后续所有模型计算使用的数据范围。...
通过Elasticsearch机器学习实现业务数据的智能检测和...
说明 如果数据量比较大，还需要考虑训练的时间问题，训练时间会随着数据量的增加而增加。数据量比较大时建议选择较小的比例进行训练，例如50%或者更低的比例，然后不断地进行矫正，直到得到合适的正确率。单击 继续，配置 其他选项。设置 ...
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
通义千问Qwen全托管灵骏最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现大语言模型（Qwen-7B、Qwen-14B和Qwen-72B）的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Qwen-7B模型为例，为您详细介绍该方案的开发流程。...
复核时录音无法播放
在文件复核时，可能会出现录音无法播放的问题，如下图：此类问题会有多种原因导致，例如：录音文件的格式是浏览器无法播放的 您所提供的录音文件URL无法访问 您所提供的录音文件URL不支持HTTPS协议访问 可按下面的方式来排查：1....
智能异常分析概述
有监督 有监督的学习是从标签化训练数据集中推断出函数或模型的机器学习任务。日志常量 日志往往由程序中的 logging 语句或者 print 语句产生。例如 connect mysql server,latency 212ms 日志可能是通过日志输出语句 logging.info("connect...
使用闲时资源
使用 闲时资源 的任务，表示使用已关联Quota外的资源运行任务，可能会出现闲时资源回收而导致任务被停止的情况。请确认代码中包含Checkpoint机制，确保任务可以顺利重新启动续跑。具体操作，请参见 EasyCkpt：AI大模型高性能状态保存恢复。...
通义千问
越大的幅度，会越快收敛，但是也容易导致不稳定，越小的幅度，训练会较稳定，但是收敛会慢一些 默认为2e-5 使用限制 当您对通义千问模型定制时，模型定制功能会有如下限制存在 运行中的定制任务数：1个 可创建的定制任务数（不包括失败及...
通义千问
越大的幅度，会越快收敛，但是也容易导致不稳定，越小的幅度，训练会较稳定，但是收敛会慢一些 默认为2e-5 使用限制 当您对通义千问模型定制时，模型定制功能会有如下限制存在 运行中的定制任务数：1个 可创建的定制任务数（不包括失败及...
AIMaster：弹性自动容错引擎
除了对任务容错信息通知外，当您判断任务训练出现异常时，比如loss出现Nan，也可以在代码中使用AIMaster SDK发送自定义通知消息，如下所示 说明 本功能需要安装AIMaster whl包，详情请参见 常见问题解答。from aimaster import job_monitor...
查询网络通信距离（NCD）
但在多轨连接场景下，由于同一个GPU节点的网卡连接到不同组ASW（例如有8个上连），因此两个GPU节点之间以及不同的灵骏网卡之间可能会出现NCD不同的情况，例如：NCD（GPU1.bond0,GPU2.bond0)=1，NCD（GPU1.bond0,GPU2.bond1)=2。为帮助您更...
Stable Diffusion AIACC加速版部署文档
若使用dreambooth库，则会导致内置的lora模块失效，则会出现如下问题。需要解决这个问题，需先关闭sd_dreambooth_extension。然后应用并重启界面后重启服务。systemctl stop sdwebui systemctl start sdwebui 如何设置服务进程退出后自动...
自定义召回模型
为避免再次出现问题，在您解决问题之前，定时全量任务和手工触发全量均不会执行。可以在当前召回表的概览页面查看回滚进度，回滚结束前定时全量任务和手工触发全量都不会执行。当您的问题解决后，您可以在本页面单击“解除回滚状态”，来...
类目预测干预词典
选择了词典类型后，为词典命名，干预词典创建完成，词典会出现在页面的词典列表中。2.新增和管理干预词典内的干预词条。词典创建完成后，在列表中点击词典名称或点击词典对应的“管理”，即可进入到干预词典的详情页。用户可在详情页内进行...
2023年
无 缺陷修复 修复带SORT KEY的内存攒批任务执行后可能会出现的查询报错问题。修复Serverless实例读取字符串类型数据可能出错的问题。修复WHERE子句中过滤条件过多可能出错的问题。修复SQL包含like语句时可能出现报错的问题。修复扩缩容等锁...
AI写真概述
过滤的准确率以内容安全审核为主，可能会出现错误过滤的情况，请您谅解。在模型训练之前，建议您先调用 aigc_images_check 接口进行图片质量检查。通过比较发送的图片数量和 aigc_images_check 接口返回的图片数量，可以统计被阿里云内容...
使用CNP性能评测
CNP（Cloud Native Application Performance Optimizer），一站式云原生应用性能评测、分析和优化的平台型产品，致力于提升云上应用性能，自动化高效评测灵骏集群训练性能，提供性能优化建议。本文为您介绍如何使用CNP进行性能评测。CNP...
启动方式与环境变量说明
对应在PyTorch上的syncbn的实现也会不同，性能会有少许差异。PERSEUS_USE_DDP_LAUNCHER(1.5.0+)设置PyTorch DDP训练的模式切换，默认为1，兼容DDP原始的launcher启动方式。若设置为0，则修改为Horovod的Mpirun启动方式。在使用PyTorch原始...
自动SQL限流
除了上述的问题，在现实生活中可能还会出现各种特殊情况，比如值班人员联系不上、工作人员身边没有电脑、信息太多分析难度大、压力大紧张操作失误等。因此需要尽可能的把异常发现、异常SQL定位、SQL限流、跟踪/回滚的整体流程自动化处理。...
创建训练任务
健康检测 在 资源配置 区域，打开 健康检测 开关，健康检测会对参与训练的资源进行全面检测，自动隔离故障节点，并触发后台自动化运维流程，有效减少任务训练初期遇到问题的可能性，提升训练成功率。具体操作，请参见 SanityCheck：算力...
- 产品推荐
- 这些文档可能帮助您