将大语言模型转化为推理服务
大语言模型LLM（Large Language Model）指参数数量达到亿级别的神经网络语言模型，例如GPT-3、GPT-4、PaLM、PaLM2等。当您需要处理大量自然语言数据或希望建立复杂的语言理解系统时，可以将大语言模型转化为推理服务，通过API轻松集成先进...
LLM on DLC-Megatron on DLC最佳实践
大语言模型（LLM）是指参数数量达到亿级别的神经网络语言模型，例如：GPT-3、GPT-4、PaLM、PaLM2等。Megatron-LM 是由NVIDIA的应用深度学习研究团队开发的Transformer模型训练框架，它可以高效利用算力、显存和通信带宽，大幅提升了大语言...
PAI-TF概述
背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种神经网络模型，对语音、图像及文本等领域的模型训练效率极佳。TensorFlow的功能丰富且强大，并拥有高度灵活的API，受到业界的高度关注。PAI-TF是人工智能平台...
人工神经网络
人工神经网络（Artificial Neural Network，缩写ANN），简称神经网络或类神经网络，是一种模仿生物神经网络（动物的中枢神经系统，特别是大脑）的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。人工神经网络有多层和单层之分...
动态与公告
2023-07-04 快速开始 2023年06月 公告类型 模型名称 公告描述 发布时间 相关文档 新增模型 语音合成 提供SAMBERT+NSFGAN深度神经网络算法与传统领域知识深度结合的文字转语音服务，兼具读音准确，韵律自然，声音还原度高，表现力强的特点。...
涂鸦作画API详情
PENDING request_id String 本次请求的系统唯一码 7574ee8f-38a3-4b1e-9280-11c33ab46e51 请求示例 以下示例展示通过CURL命令来调用本模型的脚本 说明 需要使用您的API-KEY替换示例中的 your-dashscope-api-key，代码才能正常运行。...
图像关键点训练
如果您的业务场景涉及人体相关的关键点检测，则可以通过图像关键点训练组件构建关键点模型，从而进行模型推理。本文为您介绍图像关键点训练组件的配置方法及使用示例。前提条件 已开通OSS并完成授权，详情请参见 开通OSS服务 和 云产品依赖...
安全联邦学习-任务模式FL
三、安全联邦学习已支持的能力 用途 算法分类 已支持算法 分类 决策树 XGBoostWithDp GBDTWithDp 逻辑回归 LogisticRegressionWithHe 神经网络 神经网络MLP 回归 线性回归 LinearRegressionWithHe 神经网络 神经网络MLP 四、如何进行安全...
Sambert语音合成
提供SAMBERT+NSFGAN深度神经网络算法与传统领域知识深度结合的文字转语音服务，兼具读音准确，韵律自然，声音还原度高，表现力强的特点。语音合成API基于达摩院改良的自回归韵律模型，具有推理速度快，合成效果佳的特点。开发者可以通过...
安全联邦学习-工作流FL
三、安全联邦学习已支持的能力 用途 算法分类 已支持算法 分类 决策树 XGBoostWithDp GBDTWithDp 逻辑回归 LogisticRegressionWithHe 神经网络 神经网络MLP 回归 线性回归 LinearRegressionWithHe 神经网络 神经网络MLP 四、如何进行安全...
Prompt最佳实践
Prompt是用户与语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。通过精心设计的prompt，我们可以引导大语言模型（LLM）更好地理解用户的意图，并生成更准确、有用的回答。Prompt工程涉及开发、优化...
使用EAIS推理PyTorch模型（Python）
本文为您介绍使用Python脚本通过EAIS推理PyTorch模型的具体操作。前提条件 已将EAIS实例绑定至ECS实例上。具体操作，请参见 绑定实例。已绑定的ECS实例操作系统为Ubuntu、CentOS或Alibaba Cloud Linux。更换ECS实例操作系统的具体操作，请...
Kohya使用方法与实践案例
此时您可以选择借助神经网络，完成对所有图片批量生成文本描述的工作。您也可以在Kohya中选择使用一个叫做BLIP的图像打标模型。打标 数据集 在Kohya-SS页面，选择 Utilities>Captioning>BLIP Captioning。选择已创建的数据集里面上传的图片...
概述
PolarDB for AI 功能通过一系列MLOps和内置的模型解决了数据、特征和模型的割裂状态，实现了基于数据库的数据智能的一站式服务。本文介绍了 PolarDB for AI 功能的相关特性。背景信息 随着数据的累积，数据驱动的智能应用（例如：搜索、...
使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理
在本教程中，您将学习如何将阿里云公共SD模型库转存至NAS，并将NAS挂载至阿里云模型在线服务（PAI-EAS）上实现模型的灵活切换与推理部署。背景信息 阿里云模型在线服务PAI-EAS（Elastic Algorithm Service）是一种模型在线服务平台，可支持...
MLP二分类/MLP多分类/MLP回归
多层感知机是一种前馈神经网络，通过多个神经元的组合对输入特征进行非线性变换和特征提取，最终输出一个连续的预测结果。在训练过程中，利用反向传播算法（Backpropagation）和梯度下降算法（Gradient Descent）来优化模型参数，以最小化...
横向MLP二分类/MLP多分类/MLP回归
多层感知机是一种前馈神经网络，通过多个神经元的组合对输入特征进行非线性变换和特征提取，最终输出一个连续的预测结果。在训练过程中，利用反向传播算法（Backpropagation）和梯度下降算法（Gradient Descent）来优化模型参数，以最小化...
CREATE MODEL
Lindorm AI引擎支持通过Lindorm SQL创建AI模型，对宽表引擎或时序引擎中的数据进行建模分析。您可以根据业务场景，在CREATE MODEL语句中设置推理任务类型、配置任务参数，创建不同类型的模型，例如文生图、检索问答、时序预测等模型。引擎...
模型创建
语义检索（SEMANTIC_RETRIEVAL）检索问答（RETRIEVAL_QA）时序预测（TIME_SERIES_FORECAST）时序异常检测（TIME_SERIES_ANOMALY_DETECTION）TASK：指定模型的任务类型，支持以下任务类型：任务类型 关键字 说明 特征提取 FEATURE_...
时序模型设计
映射表结构 根据每个时间线每个时刻对应一个值或者多个值，时序模型分为“单值模型”和“多值模型”。对于同一个时序表，您可以建立三种SQL映射关系用于数据查询。单值模型映射表结构 时序表创建后，系统会自动创建单值模型映射关系。在SQL...
机器学习
MADlib机器学习模块主要解决以下问题：分类/回归问题：提供一系列算法如K最近邻、MLP多层感知神经网络、SVM支持向量机、决策树等算法来解决二元分类/回归问题，集成最小二乘法、GLM广义线性回归、逻辑回归、多项式回归等模型来解决回归问题...
视频分类训练
算法简介 视频分类模块提供主流的3D卷积神经网络和Transformer模型用于视频分类任务的训练，目前已经支持的模型包括X3D系列的X3D-XS、X3D-M及X3D-L和Transformer模型的swin-t、swin-s、swin-b、swin-t-bert，其中swin-t-bert支持视频加文本...
蚂蚁 PaaS 平台核心领域模型介绍
因此，我们设立工作空间模型的原因是希望在这个范围内的资源之间的关系不用考虑网络连通性所带来的复杂性问题。在实现过程中，工作空间通过 RAM 实现访问控制的隔离，通过 VPC 和安全组实现网络隔离，或者通过分属不同的 Kubernetes 集群...
机器学习（MADlib）
MADlib是一个在AliPG内核数据库中运行机器学习、图计算模型的开源库。在机器学习方面，MADlib除提供数理统计通用函数、存储过程之外，还提供一系列比较经典的监督、非监督学习算法库。前提条件 RDS PostgreSQL实例版本满足以下要求：实例大...
数据库内机器学习
时序异常检测 esd 达摩院自研算法，适用于尖刺型异常（例如监控曲线出现尖刺的现象），对于数据点中有少量显著离群点的情况，检测结果准确。详细信息，请参见 时序异常检测。nsigma 达摩院自研算法，原理简单，便于分析异常原因。详细信息...
API详情
ChatGLM 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 chatglm-6b-v2 该模型为ChatGLM2系列，仅支持prompt格式输入。chatglm3-6b 该模型为ChatGLM3系列，支持输入输出token合计是7500，其中单轮最大输出token为1500，单轮最大输入...
API详情
ChatGLM 说明 支持的领域/任务：aigc 模型概览 模型名 模型简介 chatglm-6b-v2 该模型为ChatGLM2系列，仅支持prompt格式输入。chatglm3-6b 该模型为ChatGLM3系列，支持输入输出token合计是7500，其中单轮最大输出token为1500，单轮最大输入...
基于函数计算部署Stable Diffusion实现更高质量的图像...
同时，可以充分利用 函数计算 按需付费，弹性伸缩等优势，高效地为用户提供基于Stable Diffusion模型的文本到图像生成服务。本方案的技术架构包括以下基础设施和云服务：函数计算：用于提供Stable Diffusion模型的应用服务。文件存储 NAS：...
常用错误码ErrorCode
2002 模型的行指标无效 检查引用的行指标是否在范围内-2003 模型的列指标无效 检查引用的列指标是否在范围内-2004 模型的行名称无效 检查引用的行名称是否正确-2005 模型的列名称无效 检查引用的列名称是否正确-2006 对称矩阵的索引无效 请...
研发过程代码与平台模型的双向联动
为了解决系统实现与设计在持续迭代过程中的一致性等问题，BizWorks提供了一种代码与平台模型的双向联动机制。本文介绍BizWorks双向联动机制，以及如何使用BizWorks提供的相关能力，将代码与平台模型的双向联动顺畅融入到已有的研发流程中。...
服务部署：控制台
EAS 支持将从开源社区下载的模型或您自己训练获得的模型部署为推理服务或AI-Web应用。针对不同方式获取的训练模型，EAS 支持不同的部署方式。此外，EAS还提供了一系列针对特定场景的部署方式，您可以通过控制台快速将其部署为API服务。本文...
Mixtral-8x7B稀疏大模型最佳实践
步骤一：准备 Mixtral-8x7B-v0.1 本案例提供了以下两种下载模型的方式，您可以根据需要选择其中一种。具体操作步骤如下：进入PAI-DSW开发环境。登录 PAI控制台。在左侧导航栏单击 工作空间列表，在工作空间列表页面中单击待操作的工作空间...
使用AMD CPU实例部署ChatGLM-6B
ZenDNN运行库包括为AMD CPU架构优化的基本神经网络构建块的API，使深度学习应用程序和框架开发人员能够提高AMD CPU上的深度学习推理性能。wget ...
使用AMD CPU实例部署通义千问Qwen-7B-Chat
ZenDNN运行库包括为AMD CPU架构优化的基本神经网络构建块的API，使深度学习应用程序和框架开发人员能够提高AMD CPU上的深度学习推理性能。wget ...
组件参考：所有组件汇总
多分类评估 该组件是指基于分类模型的预测结果和原始结果，评估多分类算法模型的优劣性，从而输出评估指标（例如Accuracy、Kappa及F1-Score）。深度学习 PyTorch使用指南（即将下线）在深度学习组件列表中找到PyTorch组件，同时找到 读OSS...
基于NAS部署可更换模型的FC Stable Diffusion进行AI...
本文介绍如何在函数计算中结合NAS搭建可切换模型的Stable Diffusion的WebUI框架实现文本生成图片。同时将SD公共模型库转存至函数计算下的NAS文件系统。背景信息 阿里云函数计算FC是Serverless架构的一种形态，面向函数编程，基于事件驱动...
AICS实现对积分过程的稳定控制
如果采样周期为5秒，则对应的差分模型FIR曲线为：上图的采样周期为5秒，所以在原阶跃模型中，相邻两个采样点的距离变长，两个点的差也相应变大，造成了在采样周期为5秒的情况下，差分阶跃响应模型的增益为5。CV配置 在积分环节控制器的CV...
在七代安全增强型实例中部署PyTorch深度学习模型
本文介绍如何基于安全增强型实例（Intel ® SGX）部署PyTorch深度学习模型的技术架构和使用流程。背景信息 人工智能模型经由大量训练数据和算力生成，是具有商业价值的知识产权形式之一。PyTorch以其灵活、动态的编程环境、动态图机制、...
功能简介
这样基本消除了完全事件驱动的计费模型的闲置成本，然而冷冻机制也会打破一些传统架构下long-running进程的假设，加大应用迁移的难度。例如常用的开源分布式链路追踪Tracing Analysis库或者是第三方APM解决方案由于函数计算特殊的运行环境...
搭建类似妙鸭相机的应用
本文使用的参数示例如下，其中缓存数据源为拉取人物AIGC基础模型的固定配置，其他参数可自定义配置，更多信息，请参见 创建数据缓存。配置项 示例值 缓存所属Bucket test 缓存所属目录/model/cv 缓存名 cv 缓存大小 20 GiB 缓存数据源 类型...
- 产品推荐
- 这些文档可能帮助您