TensorFlow Serving镜像部署
模型配置选择 OSS挂载，将OSS路径配置为 步骤1 中模型存储目录所在的OSS Bucket目录，例如：oss:/examplebucket/models/tf_serving/。挂载路径：配置为/models。运行命令 tensorflow-serving 的启动参数，其中：model_name：用于指定模型...
模型版本准入状态及事件触发
模型管理支持通过模型准入状态变更来...其中 模型版本准入状态 支持配置为 待定（pending）或 允许上线（Approved）。在已注册的模型版本列表设置准入状态。使用模型管理相关OpenAPI或SDK设置 详情请参见 UpdateModelVersion-更新模型版本。
人物图像检测API详情
7574ee8f-38a3-4b1e-9280-11c33ab46e51 请求示例 以下示例展示通过CURL命令来调用本模型的脚本 说明 需要使用您的API-KEY替换示例中的 your-dashscope-api-key，代码才能正常运行。Shell curl-location-request POST '...
人物图像检测API详情
7574ee8f-38a3-4b1e-9280-11c33ab46e51 请求示例 以下示例展示通过CURL命令来调用本模型的脚本 说明 需要使用您的API-KEY替换示例中的 your-dashscope-api-key，代码才能正常运行。Shell curl-location-request POST '...
EAS一键部署HuggingFace&ModelScope服务应用
说明 需要配置为一个确定的模型版本，例如：v1.0.1或v1.0.0，不能配置为master。在 EAS 模型在线服务页面，部署ModelScope模型。进入 部署服务 页面，配置以下关键参数，其他参数配置详情，请参见 服务部署：控制台。参数 描述 服务名称 ...
Modelscope镜像部署
对于部署到EAS的Modelscope社区中的模型，可以分为普通模型和大语言对话模型，由于加载和使用方式的不同，两种模型的部署和调用方式稍有区别，详情请参见：普通模型 大语言对话模型 普通模型 Modelscope社区中的大部分模型都可以通过...
新增通用模型版本
新增通用模型版本会生成一个新的模型版本，您可以根据实际业务需求，在新模型版本中配置符合业务要求的模型内容。前提条件 您已成功新建通用模型，请参见 新建通用模型。操作步骤 登录 蚂蚁隐私计算服务平台。在左侧导航栏，选择 我的资源>...
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
通义千问Qwen全托管灵骏最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现大语言模型（Qwen-7B、Qwen-14B和Qwen-72B）的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Qwen-7B模型为例，为您详细介绍该方案的开发流程。...
Llama-3开源模型全托管灵骏最佳实践
默认挂载路径配置为/mnt/data/nas。具体操作，请参见 创建及管理数据集。已创建DSW实例，其中关键参数配置如下。具体操作，请参见 创建DSW实例。资源配额：选择已创建的灵骏智算资源的资源配额，并配置以下参数：CPU（核数）：90。内存（GB...
模型指标
您可以在注册模型时为该模型配置模型指标，用于模型不同版本间的横向对比，帮助您评估不同模型版本的性能差异。本文为您介绍如何配置、查看模型指标。使用限制 模型指标的配置内容序列化后，长度不能超过8192字节。配置模型指标 新模型注册...
服务部署：控制台
填写模型配置 单击 填写模型配置，来进行模型配置。支持通过以下三种方式配置模型文件。OSS挂载 配置OSS源地址路径，即选择OSS Bucket路径。配置 挂载路径，即配置挂载服务实例中的目标路径，用来读取OSS路径中的文件。NAS挂载 NAS挂载点：...
新建AIPL模型
从行为数据集创建AIPL模型 如果您已创建行为数据集，可从行为数据集创建AIPL模型，由于行为数据集已配置用户标识、字段映射，您只需要为AIPL模型配置AIPL规则。创建行为数据集相关操作，请参见 新建行为数据集。从行为数据集创建AIPL模型...
人物形象训练API详情
hyper_parameters":{},"create_time":"2023-08-29 19:48:24"} } 其他更多定制任务的列举、删除等能力，请参考 模型定制API详情 状态码说明 大模型服务平台通用状态码请查阅：状态码说明 同时本模型还有如下特定错误码：http状态码 错误码...
人物形象训练API详情
hyper_parameters":{},"create_time":"2023-08-29 19:48:24"} } 其他更多定制任务的列举、删除等能力，请参考 API详情 状态码说明 DashScope灵积模型服务通用状态码请查阅：返回状态码说明 同时本模型还有如下特定错误码：http状态码 ...
概念解释
批次大小 批次大小代表模型训练过程中，模型更新模型参数的数据步长，可理解为模型每看多少数据即更新一次模型参数，一般建议的批次大小为16/32，表示模型每看16或32条数据即更新一次参数。Learning Rate Multiplier Learning Rate ...
模型训练最佳实践
创建新模型训练任务需要选择模型类型，平台支持两种模型类型，如果第一次训练模型，一般选择预置模型，如果希望基于已训练的模型进行再次训练，则可选择自定义模型，定义如下：预置模型 预置模型为未经过任何训练的原始模型，您可以通过...
Llama2-7B基于DSW的全参数微调训练
使用自定义模型配置为：python webui/webui_server.py-listen-port=8000-model-path=llama2-finetune 如果使用7B的模型进行部署：python webui/webui_server.py-listen-port=8000-model-path=meta-llama/Llama-2-7b-chat-hf 如果使用13B的...
Stable Diffusion AI绘画服务实例部署文档
开启RDS插件：固定配置为开启。实例规格：即RDS实例的资源规格，按实际需要选择即可。实例存储：RDS实例的存储空间大小，单位GB，按实际需要选择即可。数据库账号名称：RDS实例的数据库账号。实例密码：RDS实例数据库账号的密码。开启RDS...
PAI图像检测训练
如果需要尝试更复杂的模型配置，您可以通过PAI-EasyVision命令中的-Dconfig 直接传递配置文件进行图像检测模型训练。图像检测训练支持的模型如下表所示。模型 Backbone 是否支持FPN FasterRCNN resnet_v1_50 resnet_v1_101 resnet_v1a_18 ...
基本概念
批次大小 批次大小代表模型训练过程中，模型更新模型参数的数据步长，可理解为模型每看多少数据即更新一次模型参数，一般建议的批次大小为16/32，表示模型每看16或32条数据即更新一次参数。学习率 学习率代表每次更新数据的增量参数权重，...
CreateModelVersion-创建模型版本
为指定模型新增版本。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/v1/models/{ModelId}/...
召回定制分析器
配置型信息（只读）：包含基础分析器、训练字段、归一化配置字段，为创建/配置模型时选择的配置信息。训练历史：包含模型版本、配置信息、版本状态、训练开始时间、训练结束时间、引用索引，其中可对模型进行效果测试：效果对比支持典型...
工作空间事件中心
指定模型 说明 仅 事件类型 为 模型 时支持该选项，同时您需要配置 指定模型 参数为 AI资产管理>模型管理 页面的模型，详情请参见 注册及管理模型。事件目标 钉钉通知 您需要配置 Webhook 和 加签 参数。如何获取参数值，请参见 附录：获取...
Triton Inference Server镜像部署
模型配置选择 OSS挂载，将OSS路径配置为 步骤1 中模型存储目录所在的OSS Bucket目录，例如：oss:/example/models/triton/。挂载路径：配置为/models。运行命令 tritonserver 的镜像启动命令，其中-model-repository 用于指定模型仓库路径。...
GetModelVersion-获取模型版本
获取模型版本。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/api/v1/models/{ModelId}/versions/{...
ListModelVersions-获取模型版本列表
获取模型版本列表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。...变更历史 变更时间 变更内容概要 操作 2023-10-16 API 内部配置变更，不影响调用 看变更集 变更项 变更内容 API 内部配置变更，不影响调用。
召回定制同义词
已训练完成的同义词模型的 模型状态 为 可用，最新版本状态 为 已训练并就绪：配置查询分析 配置查询分析规则时，勾选 同义词 功能，在其词典使用中选择 定制模型，定制同义词模型 选择上述新建的模型，定制同义词模型版本 选择最新版本，...
5分钟使用EAS一键部署Kohya SD模型微调应用
模型配置 挂载类型：OSS挂载。本文以OSS挂载为例。OSS路径：选择同地域下的OSS路径。本文为 oss:/kohya-demo/kohya/。挂载路径：可自定义。本文为/workspace。重要 是否只读 必须将开关关闭。否则模型文件无法输出到OSS中。运行命令 选择...
读配置文件
例如，本项目中有成功建模的任务名为“111”，其中有建模组件名字为“One-Hot编码”，则配置项名字为“111_One-Hot编码”。选择模型版本 若之前的任务运行过多次，则用户可以根据效果，自行选择不同版本的配置项。配置项的版本编号即为运行...
UpdateModelVersion-更新模型版本
更新模型版本。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 PUT/api/v1/models/{ModelId}/versions/{...
常见问题
模型训练相关 1.当前百炼里面导入企业文档，进行问答，有进行FT或者某种方式的模型训练吗？有。导入文档只是通过对文档内容解析-分块-embedding向量化得到文档的向量数据库，然后在问答过程中先根据用户query进行向量检索，然后将检索结果...
CreateModel-创建模型
模型是模型版本的集合，创建模型时需要指定模型名称，描述等信息。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出...
常用错误码ErrorCode
1200 远程计算服务中输入的 token ID 无效 检查 token ID 是否有效以及正确输入-1201 与远程计算服务器连接错误 检查远程计算服务器地址是否正确，网络连接是否畅通-2000 输入或读取优化模型错误 检查优化模型是否正确-2001 优化模型为空 ...
基于向量检索版+LLM构建对话式搜索
可以参考如下配置向量索引参数，详情可参考 向量索引：向量维度（dimension）根据所选择的向量模型来配置，本例使用大模型的text-embedding-ada-002，配置dimension为1536维，enable_rt_build为true开启实时索引构建。2.7 配置完成后，点击...
单账号边缘非托管应用
基本配置 应用创建完成只有出现版本列表，列表中有开放能力、权限与模型配置。1.开放能力 在 应用概览 页面 版本列表 中，点击 开放能力,可以为应用添加关联的开放能力，如下图所示：2.模型与权限 2.1 权限声明 点击 模型与权限>接口授权，...
注册及管理模型
您可以在模型管理页面，将已训练好的模型注册为一个新的模型，当模型变更后，您可以更新该模型的版本，实现在PAI中统一管理模型。本文为您介绍如何注册模型及管理模型。前提条件 已完成模型训练，并将模型上传至OSS。您可以在 Designer 或 ...
单账号云端非托管应用
基本配置 应用创建完成只有出现版本列表，列表中有开放能力、权限与模型配置。1.开放能力 在 应用概览 页面 版本列表 中，点击 开放能力,可以为应用添加关联的开放能力，如下图所示：2.模型与权限 2.1 权限声明 点击 模型与权限>接口授权，...
CreateFunctionInstance-创建算法实例
0,1,2,3,4,5,6 appGroupIdentity string 是 应用名称 my_app_group_name functionName string 是 功能名称，支持的模型有：CTR 模型：ctr 人气模型：pop 类目模型：category 热词模型：hot 底纹模型：hint 下拉提示模型：suggest 分词模型...
多账号云端非托管应用
基本配置 应用创建完成只有出现版本列表，列表中有开放能力、权限与模型配置。1.开放能力 在 应用概览 页面 版本列表 中，点击 开放能力,可以为应用添加关联的开放能力，如下图所示：2.模型与权限 2.1 权限声明 点击 模型与权限>接口授权，...
- 产品推荐
- 这些文档可能帮助您