管理模型
配套的IDE插件中本地代码与平台模型的双向联动功能，包括不限于：基于模型增量生成代码、模型与代码的比对、本地代码与平台模型规范校验与 quickfix 等。在 限界上下文 页面，单击 关联限界上下文。在 关联限界上下文 面板，单击 添加。从 ...
基于函数计算快速部署可切换模型的Stable Diffusion
关于部署Stable Diffusion并使用模型生成图片的流程如下：步骤一：创建应用 步骤二：安装模型 步骤三：安装插件 步骤四：生成图片 步骤五：释放资源 步骤一：创建应用 登录 函数计算控制台，在左侧导航栏，单击 应用。如果您首次使用函数...
从0快速搭建个人版“对话大模型”
本教程介绍如何在阿里云GPU云服务器上基于 Alpaca大模型 快速搭建个人版“对话大模型”。背景信息 Alpaca大模型 是一款基于LLaMA的大语言模型，它可以模拟自然语言进行对话交互，并协助用户完成写作、翻译、编写代码、生成脚本等一系列创作...
使用模型服务网格进行多模型推理服务
当您需要同时运行多个机器学习模型并进行推理时，可以使用模型服务网格部署和管理多模型推理服务。模型服务网格基于KServe ModelMesh实现，针对大容量、高密度和频繁变化的模型用例进行了优化，可以智能地将模型加载到内存中或从内存中卸载...
API详情
前提条件 DashScope SDK提供了Python和Java两个版本，请确保您已安装最新版SDK：安装DashScope SDK。已开通服务并获得API-KEY：开通DashScope并创建API-KEY。我们推荐您将API-KEY配置到环境变量中以降低API-KEY的泄漏风险，详情可参考 通过...
快速开始概述
快速开始支持的功能：支持一键部署模型、微调训练模型、增量训练模型、在线调试模型。对于进阶用户，支持个性化设置，例如：超参数配置。计费说明 快速开始本身不收费，但通过快速开始进行模型训练或部署操作时，会产生资源费用。具体的...
模型部署及训练
增量训练优势 使用增量训练可以拓展之前模型的能力，比如针对某个模型现有结果不太理想的特定场景去做进一步的训练，或是让模型更加契合新的趋势和变化。相比重新微调模型，在之前微调模型的基础上进行增量训练可以更节约成本。如何进行...
研发过程代码与平台模型的双向联动
平台增量代码生成：数据模型目前需要通过平台的代码生成功能增量生成模型变动到代码中。增量生成的代码可以基于已有分支生成到新分支。新生成的分支会生成到代码仓库中，后续研发人员可以拉取新分支到本地，并选取其中需要的部分修改合并到...
常见问题
每次迭代好新的数据，最好把所有的最新数据放一起，从基础模型开始训练，不建议从之前SFT的模型开始训练（百炼支持的这种模型，更多是考虑训练成本，基于每次训练好的模型使用增量数据训练，比全量数据训练更快，但效果没那么好）。...
功能发布记录
2021-11-19 模型说明 我的模型页 控制台迭代更新 新增【我的模型】页面：支持查询已发布的自学习模型和调用预训练模型，支持查看已购模型数量、剩余资源包余额显示、延长模型有效期、变配模型个数。2021-11-19/2021年10月 项目类型 功能...
交付部署（线上）
对于已经完成了初次部署的环境，可以通过增量的方式升级产品/底座版本，主流程如下：先在 版本升级 中指定此次升级的原版本和目标版本 生产增量部署包（增量产品包/增量底座包）选择要安装的增量部署包，确认之后即可进入自动部署动作
使用AMD CPU实例部署ChatGLM-6B
部署ChatGLM-6B 手动部署 安装配置模型所需软件 远程连接该ECS实例。具体操作，请参见 通过密码或密钥认证登录Linux实例，安装部署ChatGLM-6B所必需的软件。sudo yum install tmux git git-lfs wget curl gcc gcc-c++ tar unzip hwloc ...
API详情
模型概览 您可以通过API使用的通义千问系列模型详情如下表所示：模型名称 模型简介 模型输入/输出限制 qwen-turbo 通义千问 超大规模 语言模型，支持中文、英文等不同语言输入。模型支持8k tokens上下文，为了保证正常的使用和输出，API...
10创建模型命名属性
模型命名属性用于为逻辑表提供命名规则，让逻辑表的命名更规范标准，本章节介绍如何创建刷新频率定义和增量定义的模型命名属性。前提条件 已新建工作组“信息中心(xxzx)”，具体操作，请参见 新建工作组。背景信息 模型命名规则是由“目录+...
操作流程
新建增量定义 通过新建增量定义的模型命名属性，统一逻辑表命名规则中增量的定义，让逻辑表的命名更规范标准。具体操作，请参见 新建增量定义。新建统计周期定义 通过新建增统计周期定义的模型命名属性，统一逻辑表命名规则中统计周期的...
操作流程
新建增量定义 通过新建增量定义的模型命名属性，统一逻辑表命名规则中增量的定义，让逻辑表的命名更规范标准。具体操作，请参见 新建增量定义。新建统计周期定义 通过新建增统计周期定义的模型命名属性，统一逻辑表命名规则中统计周期的...
API详情
ChatGLM 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 chatglm-6b-v2 该模型为ChatGLM2系列，仅支持prompt格式输入。chatglm3-6b 该模型为ChatGLM3系列，支持输入输出token合计是7500，其中单轮最大输出token为1500，单轮最大输入...
功能简介
包括模型/算子总量统计、模型/算子增量统计、模型任务量统计，用户总数等。针对普通用户提供用户使用指引，使用手册等。资产市场 在资产市场，可查看本租户内上架的模型，并申请使用。支持对资产超市中资产的申请使用，在审核页面进行提醒...
API详情
ChatGLM 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 chatglm-6b-v2 该模型为ChatGLM2系列，仅支持prompt格式输入。chatglm3-6b 该模型为ChatGLM3系列，支持输入输出token合计是7500，其中单轮最大输出token为1500，单轮最大输入...
API详情
通义千问VL 说明 支持的领域/任务：aigc 通义千问开源视觉理解大模型Qwen-VL于2023年12月1日发布重大更新，不仅大幅提升通用OCR、视觉推理、中文文本理解基础能力，还能处理各种分辨率和规格的图像，甚至能“看图做题”。升级的Qwen-VL...
API详情
通义千问VL 说明 支持的领域/任务：aigc 通义千问开源视觉理解大模型Qwen-VL于2023年12月1日发布重大更新，不仅大幅提升通用OCR、视觉推理、中文文本理解基础能力，还能处理各种分辨率和规格的图像，甚至能“看图做题”。升级的Qwen-VL...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
API详情
大模型服务平台百炼提供的1.8B模型、7B模型、14B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问系列模型为...
API详情
通义千问Audio 说明 支持的领域/任务：aigc 通义千问Audio是阿里云研发的大规模音频语言模型。通义千问Audio可以以多种音频(包括说话人语音、自然音、音乐、歌声）和文本作为输入，并以文本作为输出。通义千问Audio模型的特点包括：1、全...
API详情
通义千问Audio 说明 支持的领域/任务：aigc 通义千问Audio是阿里云研发的大规模音频语言模型。通义千问Audio可以以多种音频(包括说话人语音、自然音、音乐、歌声）和文本作为输入，并以文本作为输出。通义千问Audio模型的特点包括：1、全...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。CodeQwen1.5 ...
API详情
已安装最新版SDK：安装SDK。已创建RAG检索增强应用：如何创建应用调用大模型能力，并参考 流程编排 配置流程编排应用。快速调用 以下示例展示了调用流程编排应用来调用自定义插件进行实时天气查询问答。说明 需要使用您的API-KEY替换示例中...
API详情
已安装最新版SDK：安装SDK。已创建RAG检索增强应用：如何创建应用调用大模型能力，并上传企业知识：上传企业知识。快速调用 以下示例展示了调用RAG检索增强应用进行企业知识库问答的代码。说明 需要使用您的API-KEY替换示例中的YOUR_API_...
模型应用
功能描述 本文主要介绍如何使用SDK调用阿里云百炼的模型应用，包括从模型广场中创建的官方大模型应用（如通义千问-Plus、通义千问等）、自训练模型应用和官方预置应用（如营销标题生成、营销文案生成、摘要抽取、文案续写和商品评论等）。...
使用SDK部署TensorFlow模型推理
PAI-Blade提供了C++ SDK帮助您部署优化后的模型推理。本文以TensorFlow模型为例，介绍PAI-Blade的SDK的使用方法。前提条件 已使用PAI-Blade对TensorFlow模型进行了优化，详情请参见 优化TensorFlow模型。已安装SDK并获取鉴权Token，详情请...
模型创建
Lindorm AI引擎支持导入预训练AI模型，对数据库内的数据进行分析和处理或对时序数据进行建模，执行时序分析类任务。语法 CREATE MODEL model_name FROM {table_name|(select_statement)|model_file_path|huggingface_repo|modelscope_repo}...
CREATE MODEL
Lindorm AI引擎支持通过Lindorm SQL创建AI模型，对宽表引擎或时序引擎中的数据进行建模分析。您可以根据业务场景，在CREATE MODEL语句中设置推理任务类型、配置任务参数，创建不同类型的模型，例如文生图、检索问答、时序预测等模型。引擎...
功能特性
功能集 功能 功能描述 参考文档 增量扫描 增量图片文件扫描 对授权OSS中新上传的图片文件进行扫描，识别图片是否违规 配置增量扫描任务 增量视频文件扫描 对授权OSS中新上传的视频文件进行扫描，识别视频是否违规-增量音频文件扫描 对授权...
API详情
已安装最新版SDK：安装SDK。同步调用 提交单个语音合成任务，无需调用回调函数，进行语音合成（无流式输出中间结果），最终一次性获取完整结果。以下示例展示了如何使用同步接口调用发音人模型知厨（sambert-zhichu-v1），将文案“今天天气...
API详情
已安装最新版SDK：安装DashScope SDK。同步调用 提交单个语音合成任务，无需调用回调函数，进行语音合成（无流式输出中间结果），最终一次性获取完整结果。以下示例展示了如何使用同步接口调用发音人模型知厨（sambert-zhichu-v1），将文案...
使用Tapdata Cloud导入MySQL数据
模型加载时间 数据源中模型数量大于1万时，Tapdata Cloud会按此参数设置的时间定期进行模型刷新。单击 连接测试，测试通过后单击 保存。说明 如果提示连接测试失败，请根据页面提示进行修复。连接作为目标库的表格存储。在 连接管理 页面，...
将Oracle数据同步到表格存储
模型加载频率 数据源中模型数量大于1万时，Tapdata Cloud会按此参数设置定期进行模型刷新。单击 连接测试，测试通过后单击 保存。说明 如果提示连接测试失败，请根据页面提示进行修复。连接作为目标库的表格存储。在 连接管理 页面，单击 ...
API详情
Aquila 模型 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 aquilachat-7b 该模型为悟道天鹰系列，支持输入输出token合计是2000，其中模型支持最大输出token为500，单轮最大输入token为1500（如果超过该阈值按最后一次完整的对话...
API详情
DeepSeek 模型 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 deepseek-7b-chat 该模型为DeepSeek系列，支持输入输出token合计是4000，其中模型支持最大输出token为1000，单轮最大输入token为3000（如果超过该阈值按最后一次完整的...
API详情
InternLM 模型 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 internlm-7b-chat 该模型为InternLM系列，支持输入输出token合计是2000，其中模型支持最大输出token为500，单轮最大输入token为1500（如果超过该阈值按最后一次完整的...
- 产品推荐
- 这些文档可能帮助您