组件参考：所有组件汇总
组件类型 组件 描述 自定义组件 自定义组件 支持在AI资产管理中创建自定义组件，自定义组件创建成功后，您可以在Designer中将该组件与官方组件串联使用进行模型训练。源/目标 读OSS数据 该组件用来读取对象存储OSS Bucket路径下的文件或...
使用模型服务网格进行多模型推理服务
当您需要同时运行多个机器学习模型并进行推理时，可以使用模型服务网格部署和管理多模型推理服务。模型服务网格基于KServe ModelMesh实现，针对大容量、高密度和频繁变化的模型用例进行了优化，可以智能地将模型加载到内存中或从内存中卸载...
快速开始
语音合成 说明 支持的领域/任务：audio（音频）/tts（语音合成）。语音合成API基于达摩院改良的自回归韵律模型，支持文本至语音的实时流式合成。可被应用于：智能设备/机器人播报的...不同发音人、适用场景、支持语言等信息，参考 模型列表。
快速开始
Sambert语音合成 说明 支持的领域/任务：audio（音频）/tts（语音合成）。Sambert语音合成API基于达摩院改良的自回归韵律模型，支持文本至语音的实时流式合成。...不同发音人、适用场景、支持语言等信息，参考 模型列表。
基本概念
大模型会基于 prompt 所提供的信息，生成对应的文本或者图片。Prompt模板 您可以通过设计不同Prompt模板来满足垂直场景需求，而无需每次拼接完整Prompt。Prompt优化 对Prompt语料进行内容质量和结构上的优化，便于获得更符合期望的大模型...
产品计费
发起模型部署（大模型独占实例）时，一般会有几种状态，分别代表什么意思？状态 操作 计费情况 部署中 查看 此状态不计费 运行中 查看、扩缩容、下线 此状态 持续计费，点击下线后部署任务消失，停止计费 欠费停服 查看、删除 此状态不计费...
文档上传格式要求
处理后会出现的问题 第三条会被分到一个chunk，但是由于水印部分被识别成文字，导致“（五）十一等耕地12万元/亩”后会多出“政府公报”几个字，并且由于“政府公报”的水印位置比较靠前，会导致（一）（二）（三）（四）（五）的顺序被...
自定义召回模型
模型服务同PAI-EAS功能，用户在模型训练平台完成模型训练并且将模型存储到OSS以后，可以进入模型服务完成模型部署相关操作。点击左侧的模型上传部署按钮，右侧会弹窗出现配置页。Processor选择TensorFlow1.12，资源类型按需选择，模型文件...
模型评测
可在模型评测中进行评测，模型评测需要首先构建评测的数据集，构建方法类似于训练集的构建，数据格式同样是问答Pair对，对于Prompt而言往往是需要验证的问题，对于Completion而言往往是评测参考的答案，最终通过对比模型结果与参考答案，...
如何开启模型训练
大模型会基于 prompt 所提供的信息，生成对应的文本或者图片。Completion：是指根据Prompt输出的对应的答案/内容。Prompt+Completion类于FAQ的格式。及一问一答的数据内容。模型微调训练方式 数据准备 准备多少数据做SFT微调训练合适？SFT...
搭建类似妙鸭相机的应用
虽然目前开源版本的facechain下载后即可配置使用，但存在以下问题：训练和推理的过程中会直接从模型Hub下载模型，整个应用涉及多个模型，大小约25 GB，导致整体耗时长，并且直接通过公网下载模型对带宽和网络稳定性要求很高，一旦无法下载...
模型训练最佳实践
最佳实践 为了更好的讲解模型训练模块的使用，我们将通过一个训练示例完成整个训练流程使用说明，更多的示例请参考模型训练最佳实践。示例任务：阅读理解 任务说明：依据给定的文本内容，模型完成内容的理解并且回答与内容相关的问题。数据...
概念解释
评测集 评测所用的数据集，格式一般为Prompt+Completion的文本数据，评测系统将自动基于Prompt数据预测模型结果，可通过参考评测集中的Completion数据对模型预测结果进行标识，判断模型效果，最小评测数据条数为1，最大条数为5000，Prompt...
常见问题
本文为您介绍DashScope灵积模型服务中的常见问题，方便您快速找到解决方案。1.服务开通问题 开通是否收费？DashScope灵积模型服务为免费开通，开通服务后，针对不同模型，DashScope提供不同的免费额度供您使用。具体开通流程的参考，请前往...
如何定义Manifest
什么是Manifest Manifest的概念来源于gpt plugin，gpt plugin中Manifest是一个文件，文件存储对于一个插件的所有描述，包括插件相关的API出入参、插件作用等关键信息，大模型会根据Manifest的信息知晓当前的插件可以完成什么（What），什么...
模型体验介绍
模型体验 支持选择多个模型同时体验，快速对比不同模型的效果，最多同时选择3个模型，支持差异化模型配置及重复模型选择。说明 体验模型将会消耗Tokens，费用以实际发生为主（独立部署模型除外）。各大模型收费标准请查看 模型广场介绍，...
模型部署及训练
大多数模型会标注该模型所使用的预训练数据集。预训练数据集和实际使用场景越接近，直接部署和微调训练效果就会越好。您可以在模型详情页面获取更多关于该模型预训练数据集的信息。一般来说，参数量越大的模型效果会更好，但相应的模型服务...
机器翻译自学习平台使用指南
模型训练完成后，系统会给出模型BLEU参考值。BLEU参考值越高，代表翻译质量越好，具体对应关系详见下图。5.词典干预 上传针对性的干预词典，提升模型翻译质量。6.模型测试及调用 模型训练完成后点击发布按钮，发布定制模型。发布完成后，可...
批量添加物模型
物模型导入失败时，页面会提示失败原因，您可根据提示修正问题后，重新导入物模型。物模型导入成功后，会直接覆盖该产品下原有的默认模块和自定义模块的物模型。发布物模型 重要 物模型发布后，才会正式生效。单击 功能定义 的 编辑草稿 ...
API详情
sample_rate int 16000 返回音频采样率，建议使用模型默认采样率（参考 模型列表），如果不匹配，服务会进行必要的升降采样处理。volume int 50 返回音频音量，取值范围是0~100。rate double 1.0 返回音频语速，取值范围0.5-2：0.5表示默认...
API详情
sample_rate int 16000 返回音频采样率，建议使用模型默认采样率（参考 模型列表），如果不匹配，服务会进行必要的升降采样处理。volume int 50 返回音频音量，取值范围是0~100。rate double 1.0 返回音频语速，取值范围0.5-2：0.5表示默认...
常见问题
这种是大模型的幻觉问题，当你输入的问题大模型没有知识回答的时候就可能出现。如果在base model上训练后更严重，就是没有训练好，训练效果与训练数据质量、多样性、数据等都有关系。5.我们现在是训练垂直领域的模型，知识都是安全领域的...
常见问题
在将已知数据参与训练的过程中，训练节点会产生多个模型，选择不同模型的评估结果不同，因此需要对模型进行筛选评估，帮助用户选择最优模型，而评估的主要数据来源就是测试集，测试集是用来验证模型好坏的唯一数据来源。测试集支持带标注和...
返回状态码说明
状态码参考 DashScope灵积模型服务的API调用将返回状态码以标识调用结果。通用状态码由DashScope约定，各算法模型还可能在通用状态码的基础上增加自定义的状态码和状态信息。请通过返回结果中的 code 和 status 字段定位调用成功或失败的...
高级配置：模型服务预热
为了解决模型初次请求耗时较长的问题，EAS 提供了模型预热功能，使模型服务在上线之前得到预热，从而实现模型服务上线后即可进入正常服务状态。本文介绍如何使用模型预热功能。背景信息 通常向模型发送初次请求时，不同的Runtime会进行不同...
概述
这就导致了不同系统之间会进行数据迁移，同一份数据可能在不同源之间冗余，进而出现数据不一致的问题，以及特征难管理、模型难升级等困境。除此之外，数据工程师、算法工程师和开发工程师的人力成本也是当前数据驱动的智能决策应用难以大...
人物形象训练API详情
文件管理 您可以使用DashScope提供的文件服务来管理您的训练文件，详细的api请参考 模型定制文件管理服务。创建模型定制任务接口调用 POST https://dashscope.aliyuncs.com/api/v1/fine-tunes 功能描述 完成训练数据的上传之后，就可以使用...
概览
模型的具体信息可以参考 模型介绍。其他大模型 其他大模型及用户自训练的大模型计划近期支持。4.官方内置插件 Python代码解释器（Code Interpreter）通过代码方式使用该插件的方式如下，即在tools添加“code_interpreter”即可。import ...
模型及数据常见问题
本文为您介绍模型/数据的相关问题。点击模型部署-模型在线服务EAS，提示无模型可部署？每次运行是否可自动更新EAS模型服务？如何上传本地数据进行训练？Designer/Studio中的数据展示出现“blob”字符 点击模型部署-模型在线服务EAS，提示无...
故障演练
有损演练是指直接在线上真实业务环境注入异常进行演练，演练模拟的真实有效性高，为了平衡业务影响一般会选择最核心场景、在业务最低峰期做演练，而且演练频次相对较小，例如为了验证多活容灾能力的机房断网演练，一般是一个月一次的演练...
强弱依赖治理概述
如果商品详情页对下游依赖是强依赖，例如当下游依赖 库存、优惠、物流 出现故障的时候，将导致业务流程无法推进，会出现类似如下的说明，严重影响用户体验。如果商品详情页对下游依赖是弱依赖，例如当下游依赖 评价、店铺 等系统出现故障的...
模型训练
在训练模型这一步，您不需要关心任何模型的实现细节，只要选择相应的模型就好了。这也是我们 NLP 自学习平台的初衷，即帮助用户快速搭建一套解决问题的算法模型，用户只需关心模型的输入输出就好了。进入到模型中心，然后点击创建模型：在...
如何测试应用
④明确后续需求 明确后续是否还需要做进一步的事情来解决该问题，比如发现从用户的问句中无法提取必要的参数，模型会结合必要参数进行反问。上面的例子识别出了所有的必需参数，所以不需要进一步处理。如果上面的例子中把北京略去，模型就...
人物形象训练API详情
文件管理 您可以使用DashScope提供的文件服务来管理您的训练文件，详细的api请参考 模型定制文件管理服务 创建模型定制任务接口调用 POST https://dashscope.aliyuncs.com/api/v1/fine-tunes 功能描述 完成训练数据的上传之后，就可以使用...
定制排序模型
并 添加排序模型特征（需填写 排序模型特征名称，选择 排序模型特征类型 和 选择特征，参考：特征管理），点击 确定 即可：说明 排序模型特征类型参考：定制排序模型特征配置规范 选择特征参考：系统内置基础特征 创建模型描述流程 创建 独...
LLaMa2 大语言模型
当前在大模型服务平台提供模型定制能力的Llama2模型分别来自于ModelScope社区模型：llama2-7b-chat-v2 llama2-13b-chat-v2 您可以使用上述模型名调用 模型定制API详情 创建定制任务，并将定制任务成功后产生的新模型通过 模型部署API详情 ...
模型调优
模型调优 模型调优是通过Fine-tuning训练模式提高模型效果的功能模块，作为重要的大模型效果优化方式，用户可以通过构建符合业务场景任务的训练集，调整参数训练模型，训练模型学习业务数据和业务逻辑，最终提高在业务场景中的模型效果。...
百川开源大语言模型
正整数 batch_size Integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 7b模型支持[1,2,4,8,16,32]13b模型支持[1,2,4,8,16]learning_rate Float ...
LLaMa2 大语言模型
1到10之间的整数，默认为1 batch_size Integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 7b模型支持[1,2,4,8,16,32]13b模型支持[1,2,4,8,16]...
5分钟使用EAS一键部署Stable Diffusion实现文生图能力
上述正常部署的Stable Diffusion WebUI为单机版仅支持单个人使用，多人使用会出现不兼容问题。当您需要企业级多人使用时，可以部署EAS的集群版Stable Diffusion WebUI。您只需在部署服务时镜像选择 stable-diffusion-webui:4.2-cluster-...
- 产品推荐
- 这些文档可能帮助您