分析视图简介
注意堆外内存并不完全等价于DirectBuffer对象，由于DirectBuffer持有UNSAFE分配的堆外内存，它能在一定程度上反应堆外内存的情况（以及潜在的泄漏等问题）。垃圾回收根 垃圾回收根是指垃圾回收器回收内存时，从根出发，寻找到存活对象，...
API概览
CheckRankingModelReachable 测试模型网络联通性 测试模型网络联通性。规则 API 标题 API概述 CreateRule 创建规则 创建推荐策略运营规则。ModifyRule ModifyRule 修改规则。ListRules 获取规则列表 查询规则列表。DescribeRule 获取规则...
CheckRankingModelReachable-测试模型网络联通性
测试模型网络联通性。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/v2/openapi/instances/{...
模型分析优化
模型分析工具简介 AI套件提供了模型分析优化工具，在模型正式部署前，对模型进行性能压测，分析模型网络结构、每个算子耗时、GPU使用情况等，找到性能瓶颈，然后使用TensorRT等优化模型，达到上线标准后再进行部署。模型分析优化工具的生命...
LLM on DLC-Megatron on DLC最佳实践
大语言模型（LLM）是指参数数量达到亿级别的神经网络语言模型，例如：GPT-3、GPT-4、PaLM、PaLM2等。Megatron-LM 是由NVIDIA的应用深度学习研究团队开发的Transformer模型训练框架，它可以高效利用算力、显存和通信带宽，大幅提升了大语言...
一键诊断
您可以使用 PAI灵骏智算服务 提供的一键诊断功能，检查灵骏节点的网络和硬件状态，基于多种通信库和通信模型进行网络测试。本文为您介绍灵骏的一键诊断功能。自助诊断 网络诊断 网络诊断功能分为 静态配置类检查 和 动态运行类检查，支持...
2023年
2023-3-23 全部地域 模型版本准入状态及事件触发 一键诊断功能 您可以使用一键诊断功能，检查灵骏节点的网络和硬件状态，基于多种通信库和通信模型进行网络测试。2023-03 华北6（乌兰察布）、华南2（河源）一键诊断 灵骏连接支持直连VPC ...
视频分类训练
无 参数设置 视频分类模型网络 是 选择使用的识别模型网络，支持以下取值：x3d_xs x3d_l x3d_m swin_t swin_s swin_b swin_t_bert x3d_xs 是否多标签 否 任务是否属于多标签。目前仅 swin_t_bert 支持多标签训练。false 分类类别数目 是 ...
产品优势
与业务流程深度结合的训练流程 用户真实的业务场景多变且复杂，传统的训练模式并不能很好地跟时刻变化的业务场景相耦合，导致用户在实际训练过程中产生了一堆无用的模型，效率和准确性不高。自学习平台将训练过程中的 数据选择>训练>评估>...
安全告警概述
通过威胁检测模型，提供全面的安全告警类型检测，帮助您及时发现资产中的安全威胁、实时掌握资产的安全态势。背景信息 安全告警事件是指云安全中心检测到的您服务器或者云产品中存在的威胁，例如某个恶意IP对资产攻击、资产已被入侵的异常...
节点分组
节点分组是某些拥有共同特性和数据出口的终端节点组合。凭证分配给节点分组后，分组内的节点可使用凭证接入网络。本文介绍创建节点分组、配置数据出口、添加节点...该数据反应的是节点在无线空口的信号信息，例如使用的哪个网络、信号强度等。
5分钟使用EAS一键部署Stable Diffusion实现文生图能力
Stable Diffusion文生图模型是开源流行的跨模态生成模型，能够根据文字描述生成相应的图像。EAS提供的Stable-Diffusion-WebUI在其基础上进行封装，提供更加简洁易操作的UI。通过EAS，您可以在5分钟内使用GPU类型的实例规格，一键部署Stable...
功能特性
自学习工具从模型新建、模型训练、模型部署三个视角帮助用户实现应用上的闭环，具体表现为工作区管理、数据标注和数据集管理训练、测试集管理、模型部署和模型管理五大功能模块。面向业务场景的工作区管理 积累深厚的行业AI视觉模型 基于...
搭建类似妙鸭相机的应用
虽然目前开源版本的facechain下载后即可配置使用，但存在以下问题：训练和推理的过程中会直接从模型Hub下载模型，整个应用涉及多个模型，大小约25 GB，导致整体耗时长，并且直接通过公网下载模型对带宽和网络稳定性要求很高，一旦无法下载...
搭建类似妙鸭相机的应用
虽然目前开源版本的facechain下载后即可配置使用，但存在以下问题：训练和推理的过程中会直接从模型Hub下载模型，整个应用涉及多个模型，大小约25 GB，导致整体耗时长，并且直接通过公网下载模型对带宽和网络稳定性要求很高，一旦无法下载...
DaemonSet升级模型
在边缘计算场景中，原生的DaemonSet升级模型无法满足某些特定的需求，例如，由于云边网络中断，节点NotReady而导致的DaemonSet滚动升级被阻塞，或者您需要根据实际边缘环境的状态在边缘节点上直接触发应用的升级，而不由云端驱动（例如新...
基本概念
模型服务 我的模型 管理所有已开通、已部署的模型，包括模型广场已开通模型及经过训练并完成部署的模型，支持针对模型进行调用、评估、训练。模型广场 在这里您可以根据业务所需挑选通义系列大模型、官方行业或场景大模型、第三方大模型等...
阿里云大模型RAG对话系统最佳实践
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言...
如何开启模型训练
视频介绍 定义 模型调优是通过Fine-tuning训练模式提高模型效果的功能模块，作为重要的大模型效果优化方式，用户可以通过构建符合业务场景任务的训练集，调整参数训练模型，训练模型学习业务数据和业务逻辑，最终提高在业务场景中的模型...
操作说明
限时免费，需申请开通 夸克搜索 接入夸克搜索插件来查找公开的网络知识和信息，增强大模型对实时信息的获取能力。该插件能力由夸克团队提供。限时免费 Python代码解释器 接入代码解释器插件使通义千问大模型拥有执行Python代码的能力，可...
蚂蚁 PaaS 平台核心领域模型介绍
本篇介绍了蚂蚁 PaaS 平台的基本概念与核心领域模型，同时也对阿里云的 IaaS 核心模型进行了阐述，希望对想要初步了解蚂蚁 PaaS 平台技术架构的用户提供入门指引。蚂蚁 PaaS 平台介绍 蚂蚁 PaaS 平台是蚂蚁业务全球化输出的技术支撑平台，...
动态与公告
2023-07-04 快速开始 2023年06月 公告类型 模型名称 公告描述 发布时间 相关文档 新增模型 语音合成 提供SAMBERT+NSFGAN深度神经网络算法与传统领域知识深度结合的文字转语音服务，兼具读音准确，韵律自然，声音还原度高，表现力强的特点。...
手动部署Stable Diffusion WebUI服务
Stable Diffusion是一个开源的深度学习模型，能够以较低的计算需求和高效的性能根据文本提示生成对应的图像。阿里云基于Stable Diffusion，在其基础上提供更加简洁易操作的UI并进行封装，为企业提供了AI模型应用Stable-Diffusion-WebUI。...
使用AMD AI容器镜像部署ChatGLM3-6B
tmux 说明 下载预训练模型耗时较长，且成功率受网络情况影响较大，建议在tmux session中下载，以免ECS断开连接导致下载模型中断。运行以下命令，下载ChatGLM3-6B项目源码，以及预训练模型。git clone ...
使用Intel AI容器镜像部署Qwen-7B-Chat
tmux 说明 下载预训练模型耗时较长，且成功率受网络情况影响较大，建议在tmux session中下载，以免ECS断开连接导致下载模型中断。运行以下命令，下载Qwen-7B项目源码，以及预训练模型。git clone ...
使用基于英特尔CPU的c8i实例部署ChatGLM2-6B
tmux 重要 下载预训练模型耗时较长，且成功率受网络情况影响较大，建议在tmux session中下载，以避免ECS断开连接导致下载模型中断。下载ChatGLM2-6B预训练模型。git clone-depth 1 ...
数据安全
数据传输安全 PAI支持使用Python官方SDK或自行实现调用逻辑的方式对服务进行VPC高速直连调用，以实现模型部署服务的安全访问。通过VPC的网络隔离能力，实现数据的传输安全。同时，EAS支持HTTPS加密传输，访问服务时，将访问地址中的 http ...
使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理
在本教程中，您将学习如何将阿里云公共SD模型库转存至NAS，并将NAS挂载至阿里云模型在线服务（PAI-EAS）上实现模型的灵活切换与推理部署。背景信息 阿里云模型在线服务PAI-EAS（Elastic Algorithm Service）是一种模型在线服务平台，可支持...
常用错误码ErrorCode
1200 远程计算服务中输入的 token ID 无效 检查 token ID 是否有效以及正确输入-1201 与远程计算服务器连接错误 检查远程计算服务器地址是否正确，网络连接是否畅通-2000 输入或读取优化模型错误 检查优化模型是否正确-2001 优化模型为空 ...
大语言模型
模型简介 Qwen1.5 Qwen1.5是Qwen开源系列的下一个版本。与之前的版本相比，Qwen1.5显著提升了聊天模型与人类偏好的一致性，改善了它们的多语言能力，并具备了强大的链接外部系统能力。灵积上提供API服务的是新版本qwen模型的chat版本，在...
通过Eland上传第三方NLP模型
在Elasticsearch（简称ES）机器学习中应用第三方训练模型前，需要先将训练模型导入ES中。本文介绍利用Eland工具通过在线或离线方式将Hugging Face模型上传到阿里云ES。背景信息 Eland通过将大数据处理能力与Python数据科学生态系统结合，为...
快速开始
大模型服务平台百炼提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考链接。Qwen ...
快速开始
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问...
通义千问开源系列 大语言模型
通义千问系列模型由阿里云研发。其中开源版本提供包括18亿、70亿、140亿和720亿等多个规模的版本。这些模型基于Transformer结构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。CodeQwen1.5 ...
API详情
大模型服务平台百炼提供的1.8B模型、7B模型、14B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问系列模型为...
人工神经网络
人工神经网络（Artificial Neural Network，缩写ANN），简称神经网络或类神经网络，是一种模仿生物神经网络（动物的中枢神经系统，特别是大脑）的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。人工神经网络有多层和单层之分...
数据模型
receiptList List 收据列表 consensusProof byte[]共识证明 环境相关模型 MychainEnv 参数 类型 说明 identity String sdk实例名称 clientType ClientTypeEnum 网络链接类型 hashType HashTypeEnum 哈希算法类型 signType SignTypeEnum ...
模型创建
Lindorm AI引擎支持导入预训练AI模型，对数据库内的数据进行分析和处理或对时序数据进行建模，执行时序分析类任务。语法 CREATE MODEL model_name FROM {table_name|(select_statement)|model_file_path|huggingface_repo|modelscope_repo}...
部署及微调Mixtral-8x7B MoE模型
模型介绍 Mixtral-8x7B是基于编码器（Decoder-Only）架构的稀疏专家混合网络（Sparse Mixture-of-Experts，SMoE）开源大语言模型，使用Apache 2.0协议发布。它的独特之处在于对于每个Token，路由器网络选择八组专家网络中的两组进行处理，...
- 产品推荐
- 这些文档可能帮助您