增强E-R
背景信息 E-R图（Entity Relationship Diagram）也称实体关系图，是一种用来描述实体、属性和关系的模型。数据库结构设计阶段需要绘制数据库的E-R图，并将E-R图转换为多张数据库表，存储各表的主、外键。E-R图能较好的描述业务数据中的关联...
支持变配的实例规格
g7h g7h g6h g6h g6r、c6r g6r、c6r g6、c6、r6 g6、c6、r6 g7、c7、r7 g6e、c6e、r6e re6、hfg6、hfc6、hfr6 hfg7、hfc7、hfr7 t6、s6 说明 由于g6e、c6e、r6e、hfg7、hfc7、hfr7、g7、c7、r7仅支持ESSD云盘，如需从g6、c6、r6升配至这些...
Llama2-WebUI基于EAS的一键部署
资源配置选择 必须选择 GPU 类型，实例规格 推荐使用 ecs.gn6e-c12g1.3xlarge。13B的模型务必使用gn6e及更高规格的机型。7B的模型可以使用A10或GU30机型。额外系统盘 配置为50 GB。单击 部署，持续时间大约为5分钟，即可完成模型部署。当 ...
开启部署集
高可用策略和部署集组高可用策略 g8i、g8y、g7se、g7a、g7、g7t、g7ne、g7nex、g6、g6e、g6a、g6h、g5、g5ne、sn2ne c8i、c8y、c7se、c7、c7t、c7nex、c7a、c6、c6a、c6e、c5、ic5、sn1ne r8y、r7、r7se、r7t、r7a、r6、r6e、r6a、re6、re6...
Red Hat镜像支持哪些实例规格族？
ecs.hfg7,ecs.hfr6,ecs.hfr7,ecs.i1,ecs.i2,ecs.i2g,ecs.i2gne,ecs.i2ne,ecs.i3,ecs.i3g,ecs.ic5,ecs.r5,ecs.r6,ecs.r6a,ecs.r6e,ecs.r7,ecs.r7a,ecs.re4,ecs.re6,ecs.s6,ecs.se1,ecs.se1ne,ecs.sn1,ecs.sn1ne,ecs.sn2,ecs.sn2nec,ecs.t5,...
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
通义千问Qwen全托管灵骏最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现大语言模型（Qwen-7B、Qwen-14B和Qwen-72B）的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Qwen-7B模型为例，为您详细介绍该方案的开发流程。...
ImportOAS-通过OAS导入API
预检成功的模型信息 ModelUid string 模型 uid 1r4efwee19614cc68c6b0b484bc9c5dbs ModelName string 模型名称 test GroupId string API 分组 ID feaccf67040643bcbdedb253e59eb527 ModelOperation string 模型操作，创建（CREATE）或修改...
短信发送状态回执错误码
调用接口成功后，运营商会异步返回短信发送状态码。阿里平台 错误码（Code）错误信息（Message）原因及解决方案 isv.SMS_SIGNATURE_SCENE_ILLEGAL 签名和模板类型不一致 原因：模板和签名类型不一致，例如：用验证码签名发送了通知短信或...
DSW支持R语言
conda create-n r-kernel source activate r-kernel conda install r-recommended r-irkernel conda install Jupyter R-e 'IRkernel:installspec()' jupyter-notebook 说明 上述命令建议按行输入，一行执行完成后再运行下一行代码。...
5分钟使用EAS一键部署LLM大语言模型应用
EAS（Elastic Algorithm Service）是PAI针对在线推理场景提供的模型在线服务。当您需要自动化部署和应用LLM大语言模型时，EAS为您提供了一键式解决方案。通过EAS，您能够轻松部署支持WebUI和API调用的LLM应用。部署LLM应用后，您可以利用...
应用实践：Transformer模型训练加速
PAI-Rapidformer提供了丰富的模型训练加速方法，您只需要安装Rapidformer专属镜像，即可通过黑盒或者白盒化的方式对模型训练进行优化。本文为您介绍如何使用Rapidformer优化PyTorch版的Transformer模型训练。前提条件 已安装Rapidformer...
结合Blade和Custom C++ Operator优化模型
为了使检测模型后处理部分更加高效，您...with torch.no_grad():batched_inputs=[{"image":img.float()}]pred1=script_model(batched_inputs)pred2=optimized_model(batched_inputs)assert_allclose(pred1[0],pred2[0],rtol=1e-3,atol=1e-2)
CreateModelVersion-创建模型版本
为指定模型新增版本。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/v1/models/{ModelId}/...
ListModelVersions-获取模型版本列表
获取模型版本列表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/api/v1/models/{ModelId}/...
使用InferenceService部署Transformer服务
iVBORw0KGgoAAAANSUhEUgAAABwAAAAcCAAAAABXZoBIAAAAw0lEQVR4nGNgGFggVVj4/y8Q2GOR83n+58/fP0DwcSqmpNN7oOTJw6f+H2pjUU2JCSEk0EWqN0cl828e/FIxvz9/9cCh1zS5z9/G9mwyzl/PNnKQ45nyNAr9ThMHQ/UG4tDofuB4bQIhz6fIBenMWJQ+7Vn7+zeLCbKXv6z59...
基于Kubeflow的Training示例
cd default-strategy-estimator-volume-pvc-6cd2979e-f925-45b7-8c25-ce67e12e2f03 说明 default-strategy-estimator-volume-pvc-6cd2979e-f925-45b7-8c25-ce67e12e2f03 需要替换为您实际生成的目录。执行以下命令，进入 master 目录。cd ...
文本内容风控解决方案
1e-5 模型选择 选择使用的预训练语言模型。pai-bert-base-zh 模型额外参数 用户自定义参数，可以配置预训练模型 pretrain_model_name_or_path，常用如下四种预训练模型：base-roberta base-bert tiny-roberta tiny-bert 模型精度排序：base...
部署及微调Mixtral-8x7B MoE模型
超参数 类型 默认值 是否必须 描述 learning_rate Float 1e-05 是 学习率，用于控制模型权重，调整幅度。num_train_epochs Int 5 是 训练数据集被重复使用的次数。per_device_train_batch_size Int 4 是 每个GPU在一次训练迭代中处理的样本...
边缘应用开发手册
服务依赖方也可以是云端应用或边缘端应用 数据模型：使用场景：本地系统/设备上报的消息可以基于数据模型进行定义，例如人脸通行事件 通过数据模型和IoT数据总线机制，可实现应用间的数据信息流转 IoT平台提供了对数据进行增删改查的4个API...
快速开始
1）人物形象训练lora模式：基于人物形象训练模型已经得到的人物形象lora，可以继续通过人物生成写真模型完成该形象的高保真写真生成，支持多种预设风格，包括证件照、商务写真、复古风、夏日运动等风格，同时支持客户自定义风格模板上传...
快速开始
1）人物形象训练lora模式：基于人物形象训练模型已经得到的人物形象lora，可以继续通过人物生成写真模型完成该形象的高保真写真生成，支持多种预设风格，包括证件照、商务写真、复古风、夏日运动等风格，同时支持客户自定义风格模板上传...
多模态检索解决方案
服务初始化接口-set_root_path POST代码示例 datas=json.dumps({"function_name":"set_root_path","function_params":{"root_path":"oss:/examplebucket/ljh-xiaoling/da_test/",},})POST返回示例（请求成功）{"request_id":"b576c16e-7fe2...
使用Blade优化RetinaNet（Detectron2）模型
RetinaNet是一种One-Stage RCNN类型的检测网络，基本结构由一个Backbone、...pred1=pytorch_model(batched_inputs)pred2=optimized_model(batched_inputs)assert_allclose(pred1[0]['instances'].scores,pred2[0].scores,rtol=1e-3,atol=1e-2)
适配器应用
4.1 APPkey and AppSecrect 云端SaaS应用访问服务模型时，请求参数里的Appkey and AppSecrect,可以从IoT平台的数字园区引擎的项目里查看得到，如下图所示：4.2 下载文件数据模型接口 可以参考边缘应用数据总线对接的下载文件数据模型接口：...
应用开发手册
服务依赖方也可以是云端应用或边缘端应用 数据模型：使用场景：本地系统/设备上报的消息可以基于数据模型进行定义，例如人脸通行事件 通过数据模型和IoT数据总线机制，可实现应用间的数据信息流转（数据提供方）应用可以通过数据添加的API...
同步接口API详情
12 request_id String 本次请求的系统唯一码 7574ee8f-38a3-4b1e-9280-11c33ab46e51 java sdk输出字段考虑兼容性为double类型，可以按照模型输出类型转换为对应精度数据。HTTP调用 说明 本模型还可通过HTTP的方式进行调用，以适用更灵活的...
同步接口API详情
12 request_id String 本次请求的系统唯一码 7574ee8f-38a3-4b1e-9280-11c33ab46e51 java sdk输出字段考虑兼容性为double类型，可以按照模型输出类型转换为对应精度数据。HTTP调用 说明 本模型还可通过HTTP的方式进行调用，以适用更灵活的...
图像背景生成API详情
PENDING request_id String 本次请求的系统唯一码 7574ee8f-38a3-4b1e-9280-11c33ab46e51 请求示例 以下示例展示通过CURL命令来调用本模型的脚本 说明 需要使用您的API-KEY替换示例中的<your-dashscope-api-key>，代码才能正常运行。...
图像背景生成API详情
PENDING request_id String 本次请求的系统唯一码 7574ee8f-38a3-4b1e-9280-11c33ab46e51 请求示例 以下示例展示通过CURL命令来调用本模型的脚本 说明 需要使用您的API-KEY替换示例中的<your-dashscope-api-key>，代码才能正常运行。...
模型应用
功能描述 本文主要介绍如何使用SDK调用阿里云百炼的模型应用，包括从模型广场中创建的官方大模型应用（如通义千问-Plus、通义千问等）、自训练模型应用和官方预置应用（如营销标题生成、营销文案生成、摘要抽取、文案续写和商品评论等）。...
Llama2-7B基于DSW的全参数微调训练
本方案选择：ecs.gn7e-c16g1.4xlarge。镜像选择：建议使用Python3.9及以上版本。本方案在 官方镜像 中选择 pytorch:1.12-gpu-py39-cu113-ubuntu20.04。创建OSS Bucket存储空间和目录，用来存放训练获得的模型文件。具体操作，请参见 控制台...
搭建Alpaca-LoRa
type:URL options:repoSource:"HuggingFace/Model"#指定数据源为HuggingFace的模型 repoId:"decapoda-research/llama-7b-hf"#指定模型ID netConfig:securityGroupId:sg-2ze63v3jtm8e6sy*vSwitchId:vsw-2ze94pjtfuj9vaym*#指定已配置SNAT的...
服务部署：EASCMD或DSW
获得训练好的模型后，您可以使用 EAS 的命令行方式快速将其部署为模型在线服务。本文为您介绍如何使用EASCMD或DSW方式部署服务。背景信息 EAS 支持以下两种命令行部署方式。本地客户端（EASCMD）部署 通过客户端工具EASCMD，您可以在自己的...
模型管理
本文介绍了创建模型、上传模型、模型评估以及模型推理等功能的语法、参数说明及其示例内容。PolarDB for AI模型简介 使用内置模型 PolarDB for AI 内置了两大机器学习模型：NL2SQL大模型和通义千问大模型。您无需进行额外的模型配置，即可...
使用模型服务网格进行多模型推理服务
当您需要同时运行多个机器学习模型并进行推理时，可以使用模型服务网格部署和管理多模型推理服务。模型服务网格基于KServe ModelMesh实现，针对大容量、高密度和频繁变化的模型用例进行了优化，可以智能地将模型加载到内存中或从内存中卸载...
搭建Alpaca-LoRa
通过数据缓存提前拉取llama-7b-hf模型数据和alpaca-lora-7b权重数据，然后在创建Alpaca-LoRa应用实例时直接挂载模型和权重数据，可以免去在实例中拉取数据的等待时间，加速Apache-LoRa启动过程。背景信息 Alpaca-LoRa是一种使用Lora技术在...
使用公共资源组
c8g1.2xlarge 8vcpu+31GB+1*T4 ecs.gn6v-c8g1.2xlarge 8vcpu+32GB+1*V100 ecs.r6.2xlarge r6(8vcpu+64GB)ecs.r6.4xlarge r6(16vcpu+128GB)ecs.r6.6xlarge r6(24vcpu+192GB)ecs.r6.8xlarge r6(32vcpu+256GB)ecs.g7.2xlarge g7(8vcpu+32GB)...
使用Java开发自定义Processor
processor_type":"java","metadata":{"resource":"eas-r-9lkbl2jvdm0puv*",#resource字段表示使用专属资源组部署服务。instance":1,"cpu":1,"memory":2000 } } 相关字段说明请参见 命令使用说明。部署调试。sudo eascmd test service....
使用Megatron-Deepspeed训练GPT-2并生成文本
lr-decay-style cosine \-min-lr 1.0e-5 \-weight-decay 1e-2 \-clip-grad 1.0 \-lr-warmup-fraction.01 \-checkpoint-activations \-log-interval 10 \-save-interval 500 \-eval-interval 100 \-eval-iters 10 \-fp16 按 Esc 键，输入:wq...
- 产品推荐
- 这些文档可能帮助您