AI任务概述
借助ACK云原生AI套件提供的Arena命令行工具、AI负载调度、弹性数据集加速、GPU异构资源管理等基础能力，您可以在Kubernetes集群中简便、高效地运行各种AI任务，比如模型训练、测试和分析模型性能、部署模型推理服务等。本文介绍使用云原生...
手动部署Stable Diffusion WebUI服务
Stable Diffusion是一个开源的深度学习模型，能够以较低的计算需求和高效的性能根据文本提示生成对应的图像。阿里云基于Stable Diffusion，在其基础上提供更加简洁易操作的UI并进行封装，为企业提供了AI模型应用Stable-Diffusion-WebUI。...
使用EAS Python SDK部署模型
步骤一：准备模型 安装Python SDK。后续将使用SDK调用EAS接口来部署和预测模型服务。进入Notebook页面。如果您使用的是DSW实例，首先需要单击目标实例 操作 列下的 打开，打开DSW实例界面。在 Notebook 页签，单击 快速开始 区域 Notebook ...
步骤一：部署客户端
本文介绍如何部署客户端，包括构建SGX加密计算环境、创建加密模型、创建gRPC TLS证书等。背景信息 客户端机器会将训练完的模型以及用来建立安全连接的TLS证书进行加密，并将这些加密文件上传到阿里云SGX环境中。同时，客户端机器还将部署...
在七代安全增强型实例中部署PyTorch深度学习模型
安装PyTorch依赖库、加解密依赖库及cmake编译工具等。sudo pip3 install-upgrade pip sudo pip3 install astunparse numpy ninja pyyaml mkl mkl-include setuptools cmake cffi typing_extensions future six requests dataclasses ...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型、72B模型和110B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。...
API详情
模型概览 您可以通过API使用的通义千问系列模型详情如下表所示：模型名称 模型简介 模型输入/输出限制 qwen-turbo 通义千问 超大规模 语言模型，支持中文、英文等不同语言输入。模型支持8k tokens上下文，为了保证正常的使用和输出，API...
API详情
前提条件 DashScope SDK提供了Python和Java两个版本，请确保您已安装最新版SDK：安装DashScope SDK。已开通服务并获得API-KEY：开通DashScope并创建API-KEY。我们推荐您将API-KEY配置到环境变量中以降低API-KEY的泄漏风险，详情可参考 通过...
API详情
重要 智海三乐教育大模型现处于内部测试阶段，暂不支持外部访问！智海三乐教育大模型 说明 支持的领域/任务：aigc 智海三乐教育大模型，取名于孟子所言“天下英才而教育之，三乐也”喻意，由浙江大学联合高等教育出版社、阿里云和华院计算...
API详情
大模型服务平台百炼提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型、72B模型和110B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考...
API详情
已安装最新版SDK：安装SDK。已创建RAG检索增强应用：如何创建应用调用大模型能力，并参考 流程编排 配置流程编排应用。快速调用 以下示例展示了调用流程编排应用来调用自定义插件进行实时天气查询问答。说明 需要使用您的API-KEY替换示例中...
API详情
已安装最新版SDK：安装SDK。已创建RAG检索增强应用：如何创建应用调用大模型能力，并上传企业知识：上传企业知识。快速调用 以下示例展示了调用RAG检索增强应用进行企业知识库问答的代码。说明 需要使用您的API-KEY替换示例中的YOUR_API_...
API详情
通义法睿是以通义千问为基座经法律行业数据和知识专门训练的法律行业大模型产品，综合运用了模型精调、强化学习、RAG检索增强、法律Agent及司法专属小模型技术，具有回答法律问题、推理法律适用、推荐裁判类案、辅助案情分析、生成法律文书...
在TDX实例中部署端到端Retrieval Augment Generation...
步骤四：下载数据与后端模型 重要 阿里云不对第三方模型的合法性、安全性、准确性进行任何保证，阿里云不对由此引发的任何损害承担责任。您应自觉遵守第三方模型的用户协议、使用规范和相关法律法规，并就使用第三方模型的合法性、合规性...
API详情
通义千问VL 说明 支持的领域/任务：aigc 通义千问VL是阿里云研发的大规模视觉语言模型（Large Vision Language Model,LVLM），可以以图像、文本、检测框作为输入，并以文本和检测框作为输出，支持中文多模态对话及多图对话，并具有更好的...
插件调用详细说明
使用插件功能，大模型生成可以在如下几个方面得到更好的扩展：可以获得更加实时性的消息，比如体育赛事报道、实时、热点新闻 可以让用户获得更多的能力，比如查询酒店信息，预定酒店、预定机票 可以让用户构建专属的信息库 插件模型概览 ...
API详情
通义千问VL 说明 支持的领域/任务：aigc 通义千问开源视觉理解大模型Qwen-VL于2023年12月1日发布重大更新，不仅大幅提升通用OCR、视觉推理、中文文本理解基础能力，还能处理各种分辨率和规格的图像，甚至能“看图做题”。升级的Qwen-VL...
使用Megatron-Deepspeed训练GPT-2并生成文本
背景信息 GPT-2模型是OpenAI于2018年在GPT模型的基础上发布的新的无监督NLP模型，当时被称为“史上最强通用NLP模型”。该模型可以生成连贯的文本段落，并且能在未经预训练的情况下，完成阅读理解、问答、机器翻译等多项不同的语言建模任务...
API详情
通义千问Audio 说明 支持的领域/任务：aigc 通义千问Audio是阿里云研发的大规模音频语言模型。通义千问Audio可以以多种音频(包括说话人语音、自然音、音乐、歌声）和文本作为输入，并以文本作为输出。通义千问Audio模型的特点包括：1、全...
API详情
通义千问Audio 说明 支持的领域/任务：aigc 通义千问Audio是阿里云研发的大规模音频语言模型。通义千问Audio可以以多种音频(包括说话人语音、自然音、音乐、歌声）和文本作为输入，并以文本作为输出。通义千问Audio模型的特点包括：1、全...
API详情
通义千问VL 说明 支持的领域/任务：aigc 通义千问开源视觉理解大模型Qwen-VL于2023年12月1日发布重大更新，不仅大幅提升通用OCR、视觉推理、中文文本理解基础能力，还能处理各种分辨率和规格的图像，甚至能“看图做题”。升级的Qwen-VL...
OpenAI接口兼容
安装OpenAI SDK，注意OpenAI SDK版本需大于1.0.0 重要 安装方式：pip install-upgrade 'openai>=1.0' 检查版本：python-c 'import openai;print("version=",openai._version_)' 使用方式 以下示例展示了通过OpenAI接口访问DashScope的qwen-...
快速开始
这个参数的作用是，在模型生成文本时，只保留概率加起来大于等于TopP阈值的最可能token集合作为候选集，从而影响生成结果的随机性和多样性。取值越低，生成的文本确定性越高；取值越大，生成的随机性则会增加。finish_reason":"stop",...
快速开始
这个参数的作用是，在模型生成文本时，只保留概率加起来大于等于TopP阈值的最可能token集合作为候选集，从而影响生成结果的随机性和多样性。取值越低，生成的文本确定性越高；取值越大，生成的随机性则会增加。finish_reason":"stop",...
安全告警概述
发现恶意脚本文件 检测模型发现您的服务器上存在恶意脚本文件，该文件极有可能是攻击者成功入侵服务器后植入的，建议您根据恶意脚本的标签检查文件内容的合法性并进行处理。恶意进程（云查杀）被污染的基础软件 检测模型发现您的服务器上...
测试协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义万相大模型API测试协议》（下称“本协议”）并测试体验通义万相大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议...
测试协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义万相大模型API测试协议》（下称“本协议”）并测试体验通义万相大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议...
服务协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义千问大模型API服务协议》（下称“本协议”）并使用通义千问大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议条款的...
隐私政策
包括硬件型号、硬件序列号、软件列表、应用安装列表、软件安装列表、唯一设备识别码IMEI、设备MAC地址、SIM卡IMSI信息、Android ID、MEID、OpenUDID、GUID、蓝牙信息、广播组件通讯信息、ICCID、运营商信息、传感器（陀螺仪、重力传感器、...
隐私政策
包括硬件型号、硬件序列号、软件列表、应用安装列表、软件安装列表、唯一设备识别码IMEI、设备MAC地址、SIM卡IMSI信息、Android ID、MEID、OpenUDID、GUID、蓝牙信息、广播组件通讯信息、ICCID、运营商信息、传感器（陀螺仪、重力传感器、...
隐私政策
包括硬件型号、硬件序列号、软件列表、应用安装列表、软件安装列表、唯一设备识别码IMEI、设备MAC地址、SIM卡IMSI信息、Android ID、MEID、OpenUDID、GUID、蓝牙信息、广播组件通讯信息、ICCID、运营商信息、传感器（陀螺仪、重力传感器、...
组件参考：所有组件汇总
多分类评估 该组件是指基于分类模型的预测结果和原始结果，评估多分类算法模型的优劣性，从而输出评估指标（例如Accuracy、Kappa及F1-Score）。深度学习 PyTorch使用指南（即将下线）在深度学习组件列表中找到PyTorch组件，同时找到 读OSS...
产品功能
当前版本支持的机器学习模型包括：聚合器（Aggregator）、Cox风险比例回归模型（CoxPH）、深度学习（DeepLearning）、分布式随机森林（DRF）、梯度提升模型（GBM）、广义线性模型（GLM）、广义低阶模型（GLRM）、孤立森林（IF）、K均值聚类...
什么是图数据库自动机器学习？
功能概述 GDB Automl支持被广泛使用的经典统计和机器学习算法，包括梯度提升模型，广义线性模型、深度学习模型等，为使用者提供了从数据处理，模型训练，模型管理到预测推理的全生命周期管理服务，可以自动运行集成算法并调整其超参数，以...
工作原理
模型训练 您还可以使用模型训练功能加强对数据的异常学习，提升未来的异常预警准确率，模型训练主要具备以下优势。直接使用实时巡检功能，准确率不及预期。通过模型训练任务，可提升异常检测的准确性。通过实时巡检任务检测出来的异常和您...
概述
将TensorFlow Serving在线推理场景部署在阿里云安全增强型实例可信机密环境中，可以保证数据传输的安全性、数据盘的安全性、数据使用的安全性、以及AI在线推理应用程序的完整性。本实践为开发者使用阿里云ECS安全增强型（基于Intel ® SGX...
Stable Diffusion AIACC加速版部署文档
您应自觉遵守在镜像上安装的第三方模型的用户协议、使用规范和相关法律法规，并就使用第三方模型的合法性、合规性自行承担相关责任。安装完成后，/root/stable-diffusion-webui/extensions文件夹下包含sd_dreambooth_extension文件夹，然后...
06查看逻辑表与物理表一致性对比
逻辑一致性：模型被引用计算节点的输入/输出数据格式与模型最新发布态是否一致。一致性状态：一致：物理一致性和逻辑一致性均为一致。不一致：物理一致性和逻辑一致性只要有其中之一不一致，则为不一致。未知：未进行物理化、未被计算节点...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
模型服务网格
模型可以根据实际的推理请求负载进行自动缩放和负载均衡，从而实现高效的模型推理。模型服务网格还提供了一些高级功能，例如流量分割、A/B测试、灰度发布等，以便更好地控制和管理模型服务的流量，可以轻松切换和回滚不同的模型版本。它还...
- 产品推荐
- 这些文档可能帮助您