新增通用模型版本
参数 说明 模型名称 系统自动匹配新建通用模型时设置的模型名称，不可修改。版本描述 通用模型版本对应的描述信息。模型版本 根据实际情况选择，模型版本支持以下两种：模型设计变动：模型设计上的变更，属于大的变更。训练细节变动：训练...
应用场景
Transformer、Bert模型等 并行文件存储系统CPFS 大模型 Megatron-LM、DeepSpeed等混合并行的LLM大模型场景的Pretrain和Finetune 并行文件存储系统CPFS AGSpeed进行AI训练的典型业务场景如下所示：场景 适用模型 图像分类 ResNet、MobileNet...
服务部署：控制台
模型类别 选择模型后，系统将自动为您匹配相应的模型类别。实例数 默认为1。建议配置多个服务实例，以避免单点部署带来的风险。资源配置选择 选择部署服务所需的实例规格。仅支持使用公共资源组。专有网络配置 VPC 通过配置专有网络，为...
API详情
警告 对于已上线使用的模型，删除任务将同步下线模型，会造成模型不可调用，此操作不可逆。请求方法 HTTP DELETE，URL传参，可使用命令行或其他语言调用。接口约束 任务状态为SUCCEEDED、FAILED、CANCELED时可以删除，其他状态时无法删除。...
API详情
警告 对于已上线使用的模型，删除任务将同步下线模型，会造成模型不可调用，此操作不可逆。请求方法 HTTP DELETE，URL传参，可使用命令行或其他语言调用。接口约束 任务状态为SUCCEEDED、FAILED、CANCELED时可以删除，其他状态时无法删除。...
使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理
使用NAS存储SD模型，NAS将根据文件系统类型、存储容量及时长收取文件存储费用，建议搭配 NAS资源包 使用。更多计费信息，请参见 计费概述。前提条件 已开通文件存储NAS服务。首次登录 文件存储NAS产品详情页 时，按照页面引导开通服务。已...
定制语言模型
本文为您介绍如何在控制台创建定制模型并应用模型。前提条件 已开通智能语音交互服务，详情请参见 开通服务。训练语料说明 调用限制 该功能免费开放给所有开通智能语音交互免费版和商用版的用户。训练数据为领域相关的文本，与待识别语音...
语音转译
语言模型：系统默认提供通用模型，也可以前往语音模型中进行配置。热词模型：热词模型为非必填项，也可以前往热词模型中进行配置。执行方式：执行方式分为立即执行和定时执行，选择定时执行后需要用户在下方的执行时间中进行完善。执行时间...
Triton Inference Server镜像部署
更新模型目录结构 以PyTorch为例，使用Python backend自定义模型的计算逻辑，模型目录结构示例如下：resnet50_pt├─1│├─model.pt│└─model.py└─config.pbtxt 与常规的模型目录结构相比，backend需要在模型版本目录下新增一个model....
部署KServe组件
基于Knative使用InferenceService部署模型后，您将获得以下Serverless能力：缩容到0 基于RPS、并发数、CPU/GPU指标自动弹性 多版本管理 流量管理 安全认证 开箱即用可观测性 KServe Controller KServe Controller是KServe的核心组件之一，...
部署KServe组件
基于Knative使用InferenceService部署模型后，您将获得以下Serverless能力：缩容到0 基于RPS、并发数、CPU/GPU指标自动弹性 多版本管理 流量管理 安全认证 开箱即用可观测性 KServe Controller KServe Controller是KServe的核心组件之一，...
多语言版本分片模型
高可用：分片模型基于MapReduce模型开发，可以继承MapReduce模型高可用特性，即某台worker执行过程中发生异常，master worker会把分片failover到其它slave节点执行。流量控制：分片模型基于MapReduce模型开发，可以继承MapReduce模型流量...
循环属性说明
概述 在使用大模型的过程中，有些场景下需要使用到循环。例如，用大模型生成测评数据，如果需要生成多条时，可以选择多次执行当前大模型节点，而不需要拉多个节点，更不需要通过多次执行应用调用来实现。考虑到循环的中间结果与业务逻辑...
多语言版本分片模型
高可用：分片模型基于MapReduce模型开发，可以继承MapReduce模型高可用特性，即某台worker执行过程中发生异常，master worker会把分片failover到其它slave节点执行。流量控制：分片模型基于MapReduce模型开发，可以继承MapReduce模型流量...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
专属机翻译模型
前提条件 专属机翻模型属于付费服务，只有企业高级版和旗舰版才能使用 服务激活是通过授权码形式进行的，具体见：如何购买/激活套餐？1.导入TM TM 库作为基础数据来训练专属定制模型，平台自动抽取10%的数据作为测试数据，来衡量模型质量。...
使用SDK部署TensorFlow模型推理
本文使用步骤1中下载的示例模型。系统回显如下类似结果，表示模型已经顺利地开始执行了。2020-11-20 16:41:41.263192:I demo_cpp_sdk.cpp:96]-Execution uses:41.995 ms 2020-11-20 16:41:41.305550:I demo_cpp_sdk.cpp:96]-Execution uses...
使用快速开始零代码部署微调Llama2系列大模型
如果您希望以零代码的方式在PAI上完成Llama2系列大语言模型的训练和推理，您可以使用快速开始的一键部署，快速启动Llama2系列模型的在线推理服务，并通过WebUI和API两种方式调用，或者使用自己的数据集对预训练模型进行微调训练，实现定制...
物模型开发实战视频
设备使用物模型通信 设备与物联网平台之间，根据Alink协议实现消息通信。主要包括以下步骤：设备上报数据：包括属性、事件和服务调用数据。物联网平台校验数据：校验设备上报的数据，通过日志服务展示校验结果，如果校验通过，物模型数据将...
机器阅读理解训练
您可以使用该组件训练机器阅读理解模型，针对给定的文档及问题，进行快速理解与问答，实现基于文档的智能问答。本文为您介绍该组件的参数配置与使用示例。使用限制 支持运行的计算资源为DLC。可视化配置组件参数 输入桩 输入桩（从左到右）...
快速入门概述
消息服务MNS 支持使用队列模型和主题模型收发消息，实现一对一或者一对多的消费模式，本文以简单明了的方式让您快速上手 消息服务MNS。背景信息 消息服务MNS 提供队列模型和主题模型。队列模型：支持一对一的消费模式。队列模型 队列模型...
模型版本准入状态及事件触发
模型管理支持通过模型准入状态变更来触发模型下游事件。适用场景包括模型版本准入后自动更新EAS模型服务，模型版本准入状态发生变化后自动发送钉钉群机器人消息，模型版本准入状态变化后自动调用指定的HTTP或HTTPS服务。前提条件 工作空间...
模型说明
StructBERT 分类模型【推荐】阿里巴巴达摩院自研的alicemind模型体系，主要原理为使用 StructBERT模型 从大量无标注语料进行预训练，精度较高，推理速度较慢。StructBERT小样本分类：基于StructBert-base，在xnli数据集（将英文数据集重新...
关闭或开启物模型数据存储
如果需要保存设备上报的物模型数据，可以使用 物模型数据存储 功能。数据存储的时序存储功能默认开启 物模型数据存储，物模型数据会自动写入时序数据存储空间，您可手动关闭指定产品部分或全部物模型的时序数据存储服务。本文介绍更新指定...
创建质检任务
语言模型：系统默认提供通用模型，用户也可前往语言模型进行配置。热词模型：该选择为非必填项，用户也可前往热词模型进行配置。优先级：系统将任务分为低中高三级，决定多任务在同时执行时的优先级。人工复核：当前检测项机器质检后是否还...
Diffusion中文文图生成解决方案
您可以根据自己的业务场景自定义构建智能文图生成模型，或使用PAI提供的默认模型，进行模型调优和线上部署，针对不同的文本输入生成不同风格的图像。具体解决方案如下。基于PAI提供的Diffusion模型和算法，根据您自己的文图生成场景，在 ...
简单权限模型的使用
使用简单权限模型进行授权 在Hologres中，使用简单权限模型对单个实例进行授权可以使用如下方式：使用管理控制台进行授权 您可以在 Hologres管理控制台 使用可视化方式创建用户并授权，详情请参见 使用简单权限模型为RAM用户授权（推荐）。...
Assistants
类型 默认值 说明 model str-指定用于assistant所使用的模型 name str None 指定assistant名称 description str None assistant描述 tools List[Dict][]assistant使用的tools file_ids List[str][]assistant使用的文件id metadata Dict ...
通用模型导出
您可以使用通用模型导出组件，将在MaxCompute中训练得到的模型导出到指定的OSS路径。本文为您介绍如何使用通用模型导出组件。前提条件 已完成OSS授权，具体操作请参见 云产品依赖与授权：Designer。支持接入的上游组件 常规机器学习组件 ...
功能发布记录
2021-11-19 模型说明 我的模型页 控制台迭代更新 新增【我的模型】页面：支持查询已发布的自学习模型和调用预训练模型，支持查看已购模型数量、剩余资源包余额显示、延长模型有效期、变配模型个数。2021-11-19/2021年10月 项目类型 功能...
使用数据模型设计器
使用数据模型设计器，您可以直观地看到数据模型的主键、字段和模型之间的引用关系，也可以在图形化界面创建、编辑及删除数据模型。操作步骤 登录BizWorks，在 选择平台 下拉列表中选中 建模平台。单击页面右上角 图标或其文本框区域，在...
应用开发手册
服务依赖方也可以是云端应用或边缘端应用 数据模型：使用场景：本地系统/设备上报的消息可以基于数据模型进行定义，例如人脸通行事件 通过数据模型和IoT数据总线机制，可实现应用间的数据信息流转（数据提供方）应用可以通过数据添加的API...
基于AIACC加速器快速实现AIGC绘画
本文介绍如何搭建Stable Diffusion的WebUI框架以实现2秒内文本生成图片、如何使用AiaccTorch加速图片生成速度，以及如何使用不同模型进行推理。背景信息 Stable Diffusion是一个可通过文本生成图像的扩散模型，基于CLIP模型从文字中提取隐...
边缘应用开发手册
服务依赖方也可以是云端应用或边缘端应用 数据模型：使用场景：本地系统/设备上报的消息可以基于数据模型进行定义，例如人脸通行事件 通过数据模型和IoT数据总线机制，可实现应用间的数据信息流转 IoT平台提供了对数据进行增删改查的4个API...
批量添加物模型
物模型包括属性、事件和服务。您可通过导入物模型来快速批量添加属性、事件和服务，即将已编辑好的物模型JSON文件或其他产品的物模型导入为当前产品的物模型。...通过物模型实现设备与物联网平台通信的使用说明，请参见 设备使用物模型通信。
LightGBM
参数说明 IN端口 参数名 参数描述 是否必填 输入数据类型 数据源类型 特征变量 配置模型特征变量，用数据的特征变量去对目标变量进行预测。是 整数或浮点数 说明 若存在非数值数据，则会置为NaN。CSV组件。IGateOffline组件。平台上其他...
适配器应用
数据模型：使用场景：本地系统/设备上报的消息可以基于数据模型进行定义，例如人脸通行事件。通过数据模型和IoT数据总线机制，可实现应用间的数据信息流转。IoT平台提供了对数据进行增删改查的4个API，以及HTTP2方式的消息订阅机制。（数据...
函数计算节点使用说明
查看函数计算的日志，输出了当前的event，cityParam及dateParam参数以dict的形式传入函数计算中，实现了函数计算中能够使用大模型流程中间结果的功能。函数计算的出参 由于调用函数计算的输出均被转为string处理，这样在各个节点内无法方便...
基本概念
联邦模型 联邦模型是联邦建模过程中使用联邦算法产出的模型。当有多个节点参与模型训练时，每个节点都会保存一个联邦模型的副本。各参与方均可以独立地使用保存在本地的模型副本，同时也支持各参与方对联邦模型的副本进行微调。模型提交 ...
Runs
类型 默认值 说明 thread_id str-期望在那个Thread run assistant_id str-assistant id model str-指定使用的模型 instructions str None 指定本次run所用的指令 additional_instructions str None 指定附加的指令 tools List[Dict][]...
- 产品推荐
- 这些文档可能帮助您