基于向量检索版+LLM构建对话式搜索
安全、稳定 提供7×24小时的运行维护，并以在线工单和电话报障等方式提供技术支持，具备完善的故障监控、自动告警、快速定位等一系列故障应急响应机制。基于阿里云的AccessKeyId和AccessKeySecret安全加密对，从访问接口上进行权限控制和...
基于向量检索版+LLM构建对话式搜索
可以参考如下配置向量索引参数，详情可参考 向量索引：向量维度（dimension）根据所选择的向量模型来配置，本例使用大模型的text-embedding-ada-002，配置dimension为1536维，enable_rt_build为true开启实时索引构建。2.7 配置完成后，点击...
使用POP API创建自学习模型
GetAsrLmModel 删除自学习模型：DeleteAsrLmModel 列举自学习模型：ListAsrLmModel 自学习模型的训练与发布 添加数据集到自学习模型：AddDataToAsrLmModel 从自学习模型中删除数据集：RemoveDataFromAsrLmModel 训练自学习模型：...
训练加速（Pai-Megatron-Patch）概述
Pai-Megatron-Patch结合了多种优化技术，对PyTorch版Transformer模型的训练进行优化...使用流程 您可以参考如下流程使用Pai-Megatron-Patch：安装Pai-Megatron-Patch镜像 参数配置指导 应用实践：Transformer模型训练加速 参考：性能基准评测
故障基础数据管理
在定义故障等级的时候，需要从功能等级、业务体量、业务特性、量化影响4个维度进行设计，一个简要的通用故障等级定义参考模板如下：业务量级 功能分类 影响面 P1 P2 P3 P4 大体量 核心功能 成功率下跌30%及以上 P1 成功率下跌20%～30%P2 ...
强弱依赖治理概述
强弱依赖治理就是通过科学的手段持续稳定地得到应用间依赖关系、流量、强弱等数据，提前发现因为依赖问题可能导致的故障，避免依赖故障影响用户体验，积累数据持续推进系统稳定性提升。什么是强弱依赖？异常发生时，不影响核心业务流程，不...
设计方案
容错 容错是指在分布式系统中，系统出现故障时，通过设计和实现可靠的机制和策略，使系统能够自动检测、排除或者纠正错误，保证系统能够正常运行，从而提高系统的可靠性和稳定性。容量 容量是在一定时间内，系统能够处理的最大工作量或数据...
单个添加物模型
物模型包括属性、事件和服务。设备与物联网平台之间，可通过物模型实现多场景消息通信。本文介绍如何在物联网平台定义物模型。前提条件 已创建产品。具体操作，请参见 创建产品。使用限制 MQTT型 实例下不支持物模型功能，无法添加物模型。...
EasyCkpt：AI大模型高性能状态保存恢复
EasyCkpt是PAI为PyTorch大模型训练场景而开发的高性能Checkpoint框架，通过实现接近0开销的模型保存机制，提供了大模型训练全过程进度无损的模型保存与恢复的能力。目前EasyCkpt支持当前流行的两种大模型训练框架Megatron和DeepSpeed，本文...
常见问题
表格存储 具有以下优势：多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型数据的一体化存储。模型 描述 宽表模型 类Bigtable/HBase模型，可应用于元数据...
边缘应用开发手册
3：服务总线 4.1 APPkey and AppSecrect 云端SaaS应用访问服务模型时，请求参数里的Appkey and AppSecrect,可以从物联网应用服务平台的项目详情的开发配置里查看得到，如下图所示：4.2 下载文件数据模型接口 可以参考边缘应用数据总线对接...
商业化升级自动创建实例通知
本文说明3月15日阿里云百炼大模型服务平台商业化升级自动创建实例事项。背景 阿里云百炼大模型服务平台于2024年3月15日进行商业化...同时本次商业化升级中我们也对通义千问的部分模型规格调整计费单价，请您参考 通义系列大模型计费调整通知。
快速入门导览
快速入门导览 一、自学习平台使用 1、开通服务 2、新建项目 3、数据管理 3.1 创建标注任务 3.2 上传数据集 4、模型管理 4.1 训练模型 4.2 模型查看 4.3 模型测试 详细使用教程和操作示例请参考帮助文档【自学习平台使用流程】二、模型服务...
返回状态码说明
状态码参考 DashScope灵积模型服务的API调用将返回状态码以标识调用结果。通用状态码由DashScope约定，各算法模型还可能在通用状态码的基础上增加自定义的状态码和状态信息。请通过返回结果中的 code 和 status 字段定位调用成功或失败的...
API详情
Ziya-LLaMA 说明 支持的领域/任务：aigc Ziya-LLaMA通用大模型是由IDEA研究院出品的大规模语言模型，它在大模型服务平台上的模型名称为"ziya-llama-13b-v1。Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，...
API详情
Ziya-LLaMA 说明 支持的领域/任务：aigc Ziya-LLaMA通用大模型是由IDEA研究院出品的大规模语言模型，它在灵积平台上的模型名称为"ziya-llama-13b-v1。Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本...
大语言模型
模型简介 Qwen1.5 Qwen1.5是Qwen开源系列的下一个版本。与之前的版本相比，Qwen1.5显著提升了聊天模型与人类偏好的一致性，改善了它们的多语言能力，并具备了强大的链接外部系统能力。灵积上提供API服务的是新版本qwen模型的chat版本，在...
快速开始
大模型服务平台百炼提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考链接。Qwen ...
快速开始
各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问为阿里云研发的大语言系列模型。千问模型基于Transformer架构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、...
Prompt最佳实践
Prompt 工程简介 Prompt（提示词）是一个指令、问题或者语句，能被 用来引导或指示一个语言模型生成特定的文本输出。Prompt是用户与语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。通过精心设计的...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。CodeQwen1.5 ...
API详情
各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问系列模型为阿里云研发的大语言模型。千问模型基于Transformer架构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络...
5分钟操作EAS一键部署通义千问模型
本文为您介绍如何通过 EAS 一键部署基于开源模型通义千问的WebUI应用，以及使用WebUI和API进行模型推理。背景信息 通义千问-7B（Qwen-7B）是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen-7B是基于Transformer的大语言模型,在...
首页
DataWorks智能数据建模首页，为您展示了当前租户内创建的模型及派生指标数量，以及近三十天内当前工作空间成功发布至生产环境的模型列表，帮助您了解模型动态概况。本文为您介绍DataWorks智能数据建模首页信息概览。进入首页 进入数据开发...
快速开始
已创建RAG检索增强应用：如何创建应用调用大模型能力，并参考 流程编排 配置流程编排应用。示例代码 以下示例展示了调用流程编排应用来调用自定义插件进行实时天气查询问答。说明 需要使用您的API-KEY替换示例中的YOUR_API_KEY，并将APP-ID...
模型优化
请参考文档 实体抽取-模型优化
API详情
已创建RAG检索增强应用：如何创建应用调用大模型能力，并参考 流程编排 配置流程编排应用。快速调用 以下示例展示了调用流程编排应用来调用自定义插件进行实时天气查询问答。说明 需要使用您的API-KEY替换示例中的YOUR_API_KEY，并将APP-ID...
停车场系统领域模型-数据模型定义
请参考 停车场系统领域模型-数据模型定义
ACK集群实现GPU AI模型训练
本文介绍GPU AI模型训练的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。...
模型规范化检查
模型规范化检查是指在进行数据模型设计的过程中，开启数据规范检查功能，在建模时予以参考。操作步骤 在模型设计区的下方可以看到 模型规范 选项卡，单击 开始检查 即可对模型的设计规范进行检查，错误、警告、提示栏 中分别显示模型规范...
概念解释
评测集 评测所用的数据集，格式一般为Prompt+Completion的文本数据，评测系统将自动基于Prompt数据预测模型结果，可通过参考评测集中的Completion数据对模型预测结果进行标识，判断模型效果，最小评测数据条数为1，最大条数为5000，Prompt...
其他说明
创建项目、数据标注、模型训练、模型测试等流程请参考详细教程-文本分类文档。如果您不想自己训练模型，想直接调用API服务，我们提供了预训练模型可以直接调用，请参考下列文档：商品评价解析服务-电商领域 商品评价解析服务-本地生活领域 ...
操作汇总
本文介绍 表格存储 的调用说明以及提供的宽表模型和时序模型相关API接口。如需了解 表格存储 各场景的应用案例，请参见 快速玩转Tablestore入门与实战。调用说明 表格存储 API只能通过 表格存储 提供的各语言SDK进行调用，不能直接使用HTTP...
量化优化
PAI-Blade支持TensorFlow和PyTorch模型在GPU硬件、端侧设备的INT8量化。本文主要介绍在GPU硬件上，如何使用PAI-Blade量化优化。背景信息 量化是模型压缩常用手段之一，通过将原始的全精度32位浮点数分桶量化为位宽更小的定点整数，可以达到...
历史版本
重要 历史版本下的文档主要描述百炼1.0版本的API和SDK调用方式，仅限旧有版本的API和SDK调用参考，强烈推荐升级到新版本的API和SDK（开发参考下的应用中心和模型中心为新版本的API描述和SDK调用参考）。应用调用API参考 应用调用SDK参考 ...
部署及微调Qwen1.5系列模型
通义千问1.5（qwen1.5）是阿里云研发的通义千问系列开源大模型。该系列包括Base和Chat等多版本、多规模的开源模型，从而满足不同的计算需求。PAI已对该系列模型进行全面支持，本文以qwen1.5-7b-chat模型为例为您介绍如何在PAI-快速开始...
Jina AI
8192 说明 关于Jina Embeddings v2模型更多信息请参考：Jina Embeddings v2模型 使用示例 说明 需要进行如下替换代码才能正常运行：DashVector api-key替换示例中的{your-dashvector-api-key} DashVector Cluster Endpoint替换示例中的{...
模型训练
Designer提供了丰富的建模组件，您可以使用工作流，可视化的灵活构建模型、调试模型并周期性地调度模型，以完成模型训练。本文为您介绍使用Designer训练模型的具体操作步骤。前提条件 已创建工作流。您可以根据业务需要创建空白工作流或...
Huggingface镜像部署
您可以参考以下内容了解如何部署和调用这两种类型的模型：普通模型 大语言对话模型 普通模型 使用普通模型的通用操作流程如下：步骤一：选择模型 在官方库 tasks 中选择要部署的模型，本文以文本分类模型为例，进入 distilbert-base-...
ModelScope魔搭社区
在ModelScope魔搭社区，您可以：免费使用平台提供的预训练模型，支持免费下载运行 一行命令实现模型预测，简单快速验证模型效果 用自己的数据对模型进行调优，定制自己的个性化模型 学习系统性的知识，结合实训，有效提升模型研发能力 分享...
- 产品推荐
- 这些文档可能帮助您