什么是Deepytorch Inference（推理加速）
例如torchvision.models.detection中的fasterrcnn_resnet50_fpn模型，此类模型在执行 torch.jit.freeze 时会出现错误。不支持例如demucs模型中的conv1d算子。相关文档 相比模型默认的推理配置，使用Deepytorch Inference工具对模型进行推理...
Prompt最佳实践
Prompt 工程简介 Prompt（提示词）是一个指令、问题或者语句，能被 用来引导或指示一个语言模型生成特定的文本输出。Prompt是用户与语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。通过精心设计的...
模型规范化检查
模型规范化检查是指在进行数据模型设计的过程中，开启数据规范检查功能，在建模时予以参考。操作步骤 在模型设计区的下方可以看到 模型规范 选项卡，单击 开始检查 即可对模型的设计规范进行检查，错误、警告、提示栏 中分别显示模型规范...
示例项目简介
全渠道业务中台一般会由用户中心、客户中心、商品中心、交易中心、支付中心、库存中心、促销中心等数个共享能力中心构成。因此，BizWorks团队从商品中心和用户中心里面截取少部分模型和能力作为示例项目，帮助您快速了解如何使用BizWorks...
模型应用
功能描述 本文主要介绍如何使用API调用阿里云百炼模型应用，包括从模型广场中创建的官方大模型应用（如通义千问-Plus、通义千问等）、自训练模型应用和官方预置应用（如营销标题生成、营销文案生成、摘要抽取、文案续写和商品评论等）。...
语音识别问题排查
本文为您介绍语音识别中出现问题的排查步骤及解决方案。排查步骤 使用cooledit或者Adobe Audition软件查看语音格式，播放试听并查看分轨情况、波形、能量和频谱图。ASR识别标准格式：8KHz或16KHz采样率、16bit采样位数、单声道的语音数据...
基础设施安全
各可用区之间可以实现故障隔离，即如果一个可用区出现故障，不会影响其他可用区的正常运行。每个地域完全独立，不同地域的可用区完全隔离，但同一个地域内的可用区之间使用低时延链路相连。弹性自动容错 PAI提供基于AIMaster的容错监控能力...
Lindorm AIGC体验版
为提供高性价比产品，Lindorm AIGC体验版采用了多用户共享资源的设计，因此在使用高峰期可能会出现响应变慢的情况。创建实例 登录 Lindorm管理控制台。在 实例列表 页面，单击 创建。说明 您也可以前往 产品详情页面，单击 立即购买 创建...
API详情
通义法睿是以通义千问为基座经法律行业数据和知识专门训练的法律行业大模型产品，综合运用了模型精调、强化学习、RAG检索增强、法律Agent及司法专属小模型技术，具有回答法律问题、推理法律适用、推荐裁判类案、辅助案情分析、生成法律文书...
EasyCkpt：AI大模型高性能状态保存恢复
EasyCkpt是PAI为PyTorch大模型训练场景而开发的高性能Checkpoint框架，通过实现接近0开销的模型保存机制，提供了大模型训练全过程进度无损的模型保存与恢复的能力。目前EasyCkpt支持当前流行的两种大模型训练框架Megatron和DeepSpeed，本文...
流程编排
如果发生了错误，左侧报错节点会红框锁定，右侧会返回报错信息，辅助调试人员排查问题。（2）应用内调试 新建流程应用，然后关联相应的编排的流程，需要注意的是，当前应用关联的必须是已发布的流程，即使流程存在最新的草稿数据，关联执行...
工作原理
从某个历史时间点开始执行巡检任务 在当前时间点创建巡检任务后，按照任务规则对历史数据进行处理，算法模型会快速消费历史数据，进行模型训练，并逐渐追上当前时间。超过任务创建时间后，发出巡检事件。修改调度配置 修改调度配置后，下...
常见问题
本文档重点记录公测及商业化过程中，客户对接过程中提出较多的问题及排查路径，内容将会持续进行迭代更新。问题1：摄像机的拍摄高度应如何选择？答：建议在距离地面1.6米左右。问题2：子场景上传图片有格式要求吗？答：上传的全景图片应为...
GPU实例FAQ
本文介绍使用GPU实例过程中可能遇到的问题，并提供对应的解决方案。函数计算GPU实例的驱动版本是什么？函数计算GPU实例的CUDA版本是什么?构建镜像时报错CUDA GPG Error如何解决？为什么我的GPU实例规格显示的是g1？为什么我的预留GPU实例...
类目预测功能介绍
什么是类目预测 搜索引擎效果优化在查询意图理解阶段有语义理解、命名实体识别、词权重分析、拼写纠错等手段，在排序阶段有文本相关度、人气模型、类目预测等手段。通过配置查询分析策略和调整排序公式，搜索效果优化有很大的提升空间，再...
通义千问
1到10之间的整数，默认为1 batch_size integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 2或者4，默认为2 learning_rate float 学习率，决定了...
通义千问
1到10之间的整数，默认为1 batch_size integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 2或者4，默认为2 learning_rate float 学习率，决定了...
同步接口API详情
0,1,2,3.output.embeddings.embedding Array 对应字符串的算法输出 embedding，java sdk统一转换为Double，参考模型输出类型，进行比较的数据转换。[-0.006929283495992422,-0.005336422007530928,.省略]usage.input_tokens Integer 本次...
GPU实例FAQ
本文介绍使用GPU实例过程中可能遇到的问题，并提供对应的解决方案。函数计算GPU实例的驱动版本是什么？函数计算GPU实例的CUDA版本是什么?构建镜像时报错CUDA GPG Error如何解决？为什么我的GPU实例规格显示的是g1？为什么我的预留GPU实例...
同步接口API详情
0,1,2,3.output.embeddings.embedding Array 对应字符串的算法输出 embedding，java sdk统一转换为Double，参考模型输出类型，进行比较的数据转换。[-0.006929283495992422,-0.005336422007530928,.省略]usage.input_tokens Integer 本次...
API详情
output.embedding Array 本次请求的算法输出内容，是一个由结构组成的数组，每一个数组中包含一个对应的输入内容的算法向量表征输出内容.java sdk统一转换为Double，参考模型输出类型，进行比较的数据类型转换。embedding":[-0....
API详情
output.embedding Array 本次请求的算法输出内容，是一个由结构组成的数组，每一个数组中包含一个对应的输入内容的算法向量表征输出内容.java sdk统一转换为Double，参考模型输出类型，进行比较的数据类型转换。embedding":[-0....
故障复盘
故障复盘规范 故障复盘作为故障体系中的重要一环，整体复盘流程包括故障处理过程、改进分析、故障定责，基于包含标准化的复盘SOP、对应预防action推荐、问责管理机制，全面地回溯线上故障的发生，产出故障复盘报告和改进措施，避免故障重复...
模型管理
1.模型的简介及限定 模型用于描述HTTP协议的请求数据和响应数据。API网关通过使用JSON Schema定义模型，用来描述...注意：API网关不维护模型和API的关联关系，删除模型时可能会引起线上API的SDK导出失败等问题。因此，删除模型请谨慎操作。
产品简介
高性能 针对多个参与方可能出现的高延迟、低带宽问题，产品在通信机制上进行了优化，如采用模型/梯度稀疏化的方案，实现了对大规模、分布式模型训练的可靠支持。针对部分数据异构和算力异构的问题，则采用了 client 模型个性化算法，优化和...
类目预测功能使用
流程介绍 温馨提示：图中的内容必须都配置上，类目预测才会生效。流程演示 创建并训练类目预测模型 在左侧导航栏中，进入排序配置->类目预测页面，点击“创建”，进入创建流程。进入创建流程后，需要填入模型名称，数据类型，商品ID，商品...
时序模型介绍
通过控制台使用时序模型 通过命令行工具CLI使用时序模型 通过SDK使用时序模型 计费说明 表格存储 支持预留模式（预付费）和按量模式（后付费）两种计费模式，请根据所用的实例模型参考相应计费模式了解多元索引计费信息。更多信息，请参见 ...
快速使用
BELLE-LLaMA 说明 支持的领域/任务：aigc BELLE-LLaMA模型是由BELLE出品的大规模语言模型，它在大模型服务平台上的模型名称为"belle-llama-13b-2m-v1。BELLE（BE Large Language Model Engine），一款基于BLOOM和LLAMA针对中文优化、模型调...
物模型相关问题
本文介绍设备使用物模型通信常见相关问题及解决方法。如何添加物模型功能？设备的物模型属性、事件和服务需要在该设备所属产品下进行添加和配置。您可通过以下方式定义物模型：调用接口 CreateThingModel，为指定产品添加物模型功能。在物...
快速开始
功能介绍 轻量化声音克隆能力，通过真人语音数据训练生成独特的定制语音合成模型，为您的品牌或角色合成清晰自然的声音。定制的语音模型，可应用于数字人音频合成、音视频制作配音、个性化有声书朗读等场景。单击 ModelScope开源社区，查看...
使用Hologres和大模型免费定制专属聊天机器人
使用大模型定制聊天机器人，除了训练大模型的方式外，还可以使用提示词微调（Prompt-tuning）的方法，在提问时提供特定行业的相关语料，结合大模型的阅读理解和信息整合能力，对该垂直行业的问题提供更贴切的回答。Hologres是一站式实时数...
快速使用
BELLE-LLaMA 说明 支持的领域/任务：aigc BELLE-LLaMA模型是由BELLE出品的大规模语言模型，它在灵积平台上的模型名称为"belle-llama-13b-2m-v1。BELLE（BE Large Language Model Engine），一款基于BLOOM和LLAMA针对中文优化、模型调优切仅...
开发常见问题Q&A
本文总结了在接入阿里云百炼的过程中遇到常见的技术问题，能够帮助您解决接入时可能碰到的大部分问题。1.如何获取阿里云的Access Key/Acceess Secret Key?请参考 Access Key、Access Secret Key、Agent Key、AppId获取方式,获取Access Key...
快速开始
功能介绍 轻量化声音克隆能力，通过真人语音数据训练生成独特的定制语音合成模型，为您的品牌或角色合成清晰自然的声音。定制的语音模型，可应用于数字人音频合成、音视频制作配音、个性化有声书朗读等场景。单击 ModelScope开源社区，查看...
插件调用详细说明
如果打开搜索，模型会将搜索结果作为prompt，进而“自行判断”是否生成结合搜索结果的文本，默认为false seed int 1234 生成时，随机数的种子，用于控制模型生成的随机性。如果使用相同的种子，每次运行生成的结果都将相同；当需要复现模型...
API详情
BELLE-LLaMA 说明 支持的领域/任务：aigc BELLE-LLaMA模型是由BELLE出品的大规模语言模型，它在大模型服务平台上的模型名称为"belle-llama-13b-2m-v1。BELLE（BE Large Language Model Engine），一款基于BLOOM和LLAMA针对中文优化、模型调...
API详情
BELLE-LLaMA 说明 支持的领域/任务：aigc BELLE-LLaMA模型是由BELLE出品的大规模语言模型，它在灵积平台上的模型名称为"belle-llama-13b-2m-v1。BELLE（BE Large Language Model Engine），一款基于BLOOM和LLAMA针对中文优化、模型调优切仅...
基于函数计算快速部署可切换模型的Stable Diffusion
本文介绍如何通过函数计算搭建可切换模型的Stable Diffusion，实现更高质量的图像生成。背景信息 AIGC（Artificial Intelligence Generated Content）是指人工智能生成内容。Stable Diffusion是一个可通过文本生成图像的扩散模型，基于CLIP...
AICS实现对SISO非积分对象的稳定控制
CV在跟踪设定值变化时，常常会出现超调的现象。如下图所示，蓝色线是CV，在接近新的设定值时，出现了一些超调，对应的橙色线是MV，可见其变化幅度也较大。实际操作中，希望能平稳地切换操作点，避免超调。为了调节控制效果，我们可以考虑...
模型应用
功能描述 本文主要介绍如何使用SDK调用阿里云百炼的模型应用，包括从模型广场中创建的官方大模型应用（如通义千问-Plus、通义千问等）、自训练模型应用和官方预置应用（如营销标题生成、营销文案生成、摘要抽取、文案续写和商品评论等）。...
- 产品推荐
- 这些文档可能帮助您