Insights事件概览
管控事件结构定义 Insights事件 基于云上记录的管控事件，Insights事件通过数学模型分析了可能存在风险的API调用事件（ApiCallRateInsight）、API错误事件（ApiErrorRateInsight）、IP请求事件（IpInsight）、AccessKey调用事件（AkInsight...
什么是工业大脑AICS
智能控制系统辨识，通过辨识建立数学模型估计表征系统行为重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统设计智能控制器，辨识完成模型，可通过控制流程中的DT-MPC组件对系统智能控制；工业数据建模...
人工神经网络
人工神经网络（Artificial Neural Network，缩写ANN），简称神经网络或类神经网络，是一种模仿生物神经网络（动物的中枢神经系统，特别是大脑）的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。人工神经网络有多层和单层之分...
AICS实现对SISO非积分对象的稳定控制
过程仿真模型 过程模型：输出变量受输入变量的影响关系可以用数学模型表示。这里，用一阶滞后传递函数模型TF1来描述冷水流量对出水温度的影响，包含3个主要参数：模型增益=1，时间常数=50，时滞=25。模型增益表示单位输入变化引起的稳态...
使用EAS Python SDK部署模型
步骤一：准备模型 安装Python SDK。后续将使用SDK调用EAS接口来部署和预测模型服务。进入Notebook页面。如果您使用的是DSW实例，首先需要单击目标实例 操作 列下的 打开，打开DSW实例界面。在 Notebook 页签，单击 快速开始 区域 Notebook ...
基于函数计算快速部署可切换模型的Stable Diffusion
关于部署Stable Diffusion并使用模型生成图片的流程如下：步骤一：创建应用 步骤二：安装模型 步骤三：安装插件 步骤四：生成图片 步骤五：释放资源 步骤一：创建应用 登录 函数计算控制台，在左侧导航栏，单击 应用。如果您首次使用函数...
使用基于英特尔CPU的c8i实例部署ChatGLM2-6B
apt update apt install-y git cd/root/xFasterTransformer git pull 准备模型数据 在容器中安装依赖软件。apt update apt install-y wget git git-lfs vim tmux 启用Git LFS。下载预训练模型需要Git LFS的支持。git lfs install 创建并...
从0快速搭建个人版“对话大模型”
本教程介绍如何在阿里云GPU云服务器上基于 Alpaca大模型 快速搭建个人版“对话大模型”。背景信息 Alpaca大模型 是一款基于LLaMA的大语言模型，它可以模拟自然语言进行对话交互，并协助用户完成写作、翻译、编写代码、生成脚本等一系列创作...
使用模型服务网格进行多模型推理服务
当您需要同时运行多个机器学习模型并进行推理时，可以使用模型服务网格部署和管理多模型推理服务。模型服务网格基于KServe ModelMesh实现，针对大容量、高密度和频繁变化的模型用例进行了优化，可以智能地将模型加载到内存中或从内存中卸载...
模型调优
示例：中文-对话 1.1倍>>自主训练数据：基础模型中文对话数据以1:1.1的比例混合训练 示例：中文-数学 0.5倍>>自主训练数据：基础模型中文数学数据以1:0.5的比例混合训练 超参配置 企业可以通过参数配置来影响模型调优的过程，从而影响模型...
手动部署Stable Diffusion WebUI服务
Stable Diffusion是一个开源的深度学习模型，能够以较低的计算需求和高效的性能根据文本提示生成对应的图像。阿里云基于Stable Diffusion，在其基础上提供更加简洁易操作的UI并进行封装，为企业提供了AI模型应用Stable-Diffusion-WebUI。...
使用AMD CPU实例部署ChatGLM-6B
部署ChatGLM-6B 手动部署 安装配置模型所需软件 远程连接该ECS实例。具体操作，请参见 通过密码或密钥认证登录Linux实例，安装部署ChatGLM-6B所必需的软件。sudo yum install tmux git git-lfs wget curl gcc gcc-c++ tar unzip hwloc ...
使用AMD CPU实例部署通义千问Qwen-7B-Chat
部署 Qwen-7B-Chat 手动部署 步骤一：安装配置模型所需软件 远程连接该ECS实例。具体操作，请参见 通过密码或密钥认证登录Linux实例。安装部署Qwen-7B-Chat所必需的软件。sudo yum install-y tmux git git-lfs wget curl gcc gcc-c++ ...
使用AMD CPU实例部署通义千问Qwen-VL-Chat
背景信息 Qwen-VL是阿里云研发的大规模视觉语言模型（Large Vision Language Model）。Qwen-VL可以以图像、文本、检测框作为输入，并以文本和检测框作为输出。在Qwen-VL的基础上，利用对齐机制打造出基于大语言模型的视觉AI助手Qwen-VL-...
使用AMD CPU实例部署通义千问Qwen-Audio-Chat
背景信息 Qwen-Audio是阿里云研发的大规模音频语言模型（Large Audio Language Model）。Qwen-Audio可以以多种音频（包括说话人语音、自然音、音乐、歌声）和文本作为输入，并以文本作为输出。在Qwen-Audio的基础上，利用对齐机制打造出...
使用AMD CPU实例部署Stable Diffusion
本文介绍如何使用阿里云 AMD CPU 云服务器（g8a）和龙蜥容器镜像，并基于 Stable Diffusion模型搭建个人版文生图服务。背景信息 Stable Diffusion是文本到图像的潜在扩散模型，它可以根据文本提示词生成对应的图像。Stable Diffusion模型是...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
使用SDK部署TensorFlow模型推理
PAI-Blade提供了C++ SDK帮助您部署优化后的模型推理。本文以TensorFlow模型为例，介绍PAI-Blade的SDK的使用方法。前提条件 已使用PAI-Blade对TensorFlow模型进行了优化，详情请参见 优化TensorFlow模型。已安装SDK并获取鉴权Token，详情请...
使用SDK部署PyTorch模型推理
PAI-Blade提供了C++ SDK帮助您部署优化后的模型。本文以PyTorch模型为例，介绍PAI-Blade的SDK的使用方法。前提条件 已使用PAI-Blade对PyTorch模型进行了优化，详情请参见 优化PyTorch模型。已安装SDK并获取鉴权Token，详情请参见 安装Blade...
快速使用
ChatYuan 说明 支持的领域/任务：aigc ChatYuan模型是由元语智能出品的大规模语言模型，它在大模型服务平台上的模型名称为"chatyuan-large-v2。ChatYuan-large-v2是一个支持中英双语的功能型对话语言大模型，是继ChatYuan系列中ChatYuan-...
快速使用
ChatYuan 说明 支持的领域/任务：aigc ChatYuan模型是由元语智能出品的大规模语言模型，它在灵积平台上的模型名称为"chatyuan-large-v2。ChatYuan-large-v2是一个支持中英双语的功能型对话语言大模型，是继ChatYuan系列中ChatYuan-large-v1...
快速使用
Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的...
快速使用
Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的...
API详情
ChatYuan 说明 支持的领域/任务：aigc ChatYuan模型是由元语智能出品的大规模语言模型，它在大模型服务平台上的模型名称为"chatyuan-large-v2。ChatYuan-large-v2是一个支持中英双语的功能型对话语言大模型，是继ChatYuan系列中ChatYuan-...
API详情
ChatYuan 说明 支持的领域/任务：aigc ChatYuan模型是由元语智能出品的大规模语言模型，它在灵积平台上的模型名称为"chatyuan-large-v2。ChatYuan-large-v2是一个支持中英双语的功能型对话语言大模型，是继ChatYuan系列中ChatYuan-large-v1...
轻量微调和推理ChatGLM模型实践
说明 您如果自行安装推理ChatGLM模型时，执行模型推理前需先检查推理执行脚本 evaluate.sh 中的 CHECKPOINT 参数，确保 CHECKPOINT 参数取值是训练保存的路径名称。步骤五：在DSW中启动WebUI 查看并修改web_demo.py文件的参数取值。...
快速开始
ChatGLM 说明 支持的领域/任务：aigc 目前在大模型服务平台上对外提供的ChatGLM模型服务主要包含ChatGLM2和ChatGLM3模型，均是由智谱AI出品的大规模语言模型。ChatGLM2是开源中英双语对话模型 ChatGLM-6B 的第二代版本，在保留了初代模型...
快速开始
在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base 具有在 10B 以下的预训练模型中最强的性能。更完整的功能支持：ChatGLM3-6B 采用了全新设计的 Prompt 格式，除正常的多轮对话外。同时原生支持 工具调用...
隐私政策
生效日期：2023 年 8 月 28 日【引言】欢迎您使用通义万相大模型API，我们将基于本平台为您提供通义万相大模型接口测试服务（下称”本服务“）。我们深知个人信息对您的重要性，您的信赖对我们非常重要，我们将严格遵守法律法规要求采取...
隐私政策
生效日期：2023 年 8 月 28 日【引言】欢迎您使用通义万相大模型API，我们将基于本平台为您提供通义万相大模型接口测试服务（下称”本服务“）。我们深知个人信息对您的重要性，您的信赖对我们非常重要，我们将严格遵守法律法规要求采取...
隐私政策
生效日期：2023 年 8 月 15 日【引言】欢迎您使用通义千问大模型API，我们将基于本平台为您提供通义千问大模型接口测试服务（下称”本服务“）。我们深知个人信息对您的重要性，您的信赖对我们非常重要，我们将严格遵守法律法规要求采取...
API详情
Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的...
API详情
Ziya-LLaMA大模型V1是基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的...
插件调用详细说明
重要 模型插件调用需"申请体验"并通过后才可使用，否则API调用将返回错误状态码。Dashscope插件功能能够使得大模型的生成内容与外部三方应用结合，使得模型生成的内容更加准确和丰富，模型将拥有更好的生成能力。您也可以通过开发自定义...
部署及微调Mixtral-8x7B MoE模型
通过PAI Python SDK使用模型 PAI-QuickStart提供的预训练模型也支持通过 PAI Python SDK 进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码：#安装PAI Python SDK python-m pip install alipai-upgrade#交互式的...
数据问答最佳实践
规避业务数据冗余：每行数据不应该有业务相关的冗余，给模型理解带来困扰，比如一张表中的数据如下：大学 专业 研究方向 招生人数 北京工业大学 数学 应用数学 12 北京工业大学 数学 基础数据 12 北京工业大学 物理 应用物理 11 说明 实际...
工业资产指标&数据分析最佳实践
例如，一套设备可能具有序列号、位置、品牌和型号以及安装日期。它还可能具有可用性、性能、质量、温度、压力等时间序列值。本产品支持空间类和设备类资产数字化管理，以及支持按空间或功能系统结构，进行资产层次管理。AssetCode 资产编码...
使用EAIS推理PyTorch模型（Python）
在您已有的PyTorch模型运行环境中安装EAIS提供的Python软件包。推理性能 与GPU实例（NVIDIA T4）相比，使用EAIS推理会明显提升推理的性能。Python脚本使用 eais.ei-a6.2xlarge规格的EAIS实例与使用GPU实例（NVIDIA T4）推理的性能对比数据 ...
使用EAIS推理PyTorch模型（Python）
在您已有的PyTorch模型运行环境中安装EAIS提供的Python软件包 更多信息，请参见《操作指南》中的 使用EAIS推理PyTorch模型（Python）。推理性能 与GPU实例（NVIDIA T4）相比，使用EAIS推理会明显提升推理的性能。Python脚本使用 eais.ei-a6...
推理加速（Blade）概述
工作原理 PAI-Blade以Wheel包的形式安装到用户环境，无需申请资源、上传模型和数据的繁琐步骤。您可以在代码中调用PAI-Blade的Python接口，使模型优化集成在工作流中，且能够在本地对优化完成的模型进行性能验证。此外，您还可以便捷地尝试...
- 产品推荐
- 这些文档可能帮助您