基于AIACC加速器快速实现LLaMA-7B指令微调
本文基于Alpaca提供了一套LLaMA-7B模型在阿里云ECS上进行指令微调的训练方案，最终可以获得性能更贴近具体使用场景的语言模型。背景信息 LLaMA（Large Language Model Meta AI）是Meta AI在2023年2月发布的开放使用预训练语言模型（Large ...
API详情
通义千问Audio模型的特点包括：1、全类型音频感知：通义千问Audio是一个性能卓越的通用音频理解模型，支持30秒内的自然音、人声、音乐等类型音频理解，如多语种语音识别，时间抽定位，说话人情绪、性别识别，环境识别，音乐的乐器、风格、...
API详情
通义千问Audio模型的特点包括：1、全类型音频感知：通义千问Audio是一个性能卓越的通用音频理解模型，支持30秒内的自然音、人声、音乐等类型音频理解，如多语种语音识别，时间抽定位，说话人情绪、性别识别，环境识别，音乐的乐器、风格、...
蚂蚁 PaaS 平台核心领域模型介绍
本篇介绍了蚂蚁 PaaS 平台的基本概念与核心领域模型，同时也对阿里云的 IaaS 核心模型进行了阐述，希望对想要初步了解蚂蚁 PaaS 平台技术架构的用户提供入门指引。蚂蚁 PaaS 平台介绍 蚂蚁 PaaS 平台是蚂蚁业务全球化输出的技术支撑平台，...
概述
模型层：负责处理模型相关的MLOps能力，包括模型创建、模型训练、模型评估、模型推理和模型管理。适用场景 如下图所示，PolarDB for AI 将传统的 DB+AI 的数据智能应用转变为一站式数据智能应用，从数据库服务于传统的数据工程师和算法...
阿里云ES机器学习
阿里云ES 7.11及以上版本 支持将第三方text embedding模型上传到ES，与ES Ingest结合使用，在建立索引之前基于模型能力实现文本信息向量转换。当然，也可借助外部的服务（如阿里云DashScope灵积）在ES集群外完成文本向量数据的转换，再写入...
OpenNLU开放域文本理解模型
OpenNLU是开箱即用的文本理解大模型，适用于零样本、少样本条件下进行文本理解任务，如信息抽取、文本分类等。开发者可以通过以下链接，了解如何通过大模型服务平台调用OpenNLU开放域文本理解模型API。快速使用 API详情
确定需求
基于上述拆解，您还需要进一步思考并设计明细数据层的事实模型（原子指标中成交金额的数据来源）、公共可引用的维度模型（统计粒度的来源，且需要与成交金额所属事实模型有关联关系）和汇总数据层模型（原子指标、业务限定、统计周期的拆解...
文本理解模型
模型简介 OpenNLU全称Open Domain Natural Language Understanding，是开箱即用的文本理解大模型，适用于中文、英文在零样本条件下进行文本理解任务，如信息抽取、文本分类等。OpenNLU将NLU任务分成两个大类：抽取和分类。抽取任务目标是从...
视频分类训练
算法简介 视频分类模块提供主流的3D卷积神经网络和Transformer模型用于视频分类任务的训练，目前已经支持的模型包括X3D系列的X3D-XS、X3D-M及X3D-L和Transformer模型的swin-t、swin-s、swin-b、swin-t-bert，其中swin-t-bert支持视频加文本...
Stable Diffusion AI绘画服务实例部署文档
该参数的作用是为模型提供一个引导，帮助模型理解您的意图并生成相应的图像。通过精心设计的提示，可以获得更符合期望的图像生成结果。您可以使用Prompt Engineering技术在生成模型中使用有针对性的提示以控制最终的生成内容。negative_...
机器阅读理解解决方案
基于PAI提供的机器阅读理解模型和算法，针对您自己的阅读理解场景，在 Designer 平台上进行模型微调，从而构建具体场景的NLP（Natural Language Processing）机器阅读理解模型。在 Designer 平台，基于PAI提供的默认模型或您自行微调的机器...
机器阅读理解预测
您可以使用该组件对生成的机器阅读理解训练模型进行离线预测。本文为您介绍该组件的参数配置和使用示例。使用限制 支持运行的计算资源为DLC。可视化配置组件参数 输入桩 输入桩（从左到右）限制数据类型 建议上游组件 是否必选 输入保存的...
机器阅读理解训练
您可以使用该组件训练机器阅读理解模型，针对给定的文档及问题，进行快速理解与问答，实现基于文档的智能问答。本文为您介绍该组件的参数配置与使用示例。使用限制 支持运行的计算资源为DLC。可视化配置组件参数 输入桩 输入桩（从左到右）...
API概览
CheckRankingModelReachable 测试模型网络联通性 测试模型网络联通性。规则 API 标题 API概述 CreateRule 创建规则 创建推荐策略运营规则。ModifyRule ModifyRule 修改规则。ListRules 获取规则列表 查询规则列表。DescribeRule 获取规则...
产品优势
由于使用隧道封装技术对云服务器的IP报文进行封装，所以云服务器的数据链路层（二层MAC地址）信息不会进入物理网络，实现了不同云服务器间二层网络隔离，因此也实现了不同VPC间二层网络隔离。VPC内的云服务器使用安全组防火墙进行三层网络...
通义千问VL
通义千问VL是阿里云研发的大规模视觉语言模型（Large Vision Language Model,LVLM），可以以图像、文本、检测框作为输入，并以文本和检测框作为输出，支持中文多模态对话及多图对话，并具有更好的性能，是首个支持中文开放域的通用定位模型...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。CodeQwen1.5 ...
API详情
大模型服务平台百炼提供的1.8B模型、7B模型、14B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问系列模型为...
快速开始
通义千问VL 说明 支持的领域/任务：aigc 通义千问VL是阿里云研发的大规模视觉语言模型（Large Vision Language Model,LVLM），可以以图像、文本、检测框作为输入，并以文本和检测框作为输出，支持中文多模态对话及多图对话，并具有更好的...
数据模型
消息解码器的线程数量 threadPoolQueueSize Integer 网络层发送消息的任务队列大小，Netty 处理网络事件的任务队列大小 RequestOption 参数 类型 说明 queryReceiptTimeoutMs Integer 查询收据的超时时间，单位毫秒 sendRequestTimeoutMs ...
数据模型
消息解码器的线程数量 threadPoolQueueSize Integer 网络层发送消息的任务队列大小，Netty 处理网络事件的任务队列大小 connectionRetryDelayMs Integer 连接重试间隔时间，默认等于0 maxConnectionRetryDelayFactor Integer 连接重试最大...
阿里云大模型RAG对话系统最佳实践
该技术通过结合大语言模型（LLM）（如通义千问）的归纳生成能力和向量检索库的检索能力，增强对用户查询内容的理解，提高生成文本的准确性和丰富度，从而生成更加可靠的回复。在响应用户查询时，RAG对话系统首先利用检索系统从知识库中检索...
创建实例
说明 选择 默认模型 时计算层节点和存储层节点都使用相同的节点规格，选择 自定义模型 时可分别设置计算层节点和存储层节点的规格。节点个数 选择目标规格节点的节点个数。说明 节点个数取值范围为2~99。选择 默认模型 时计算层节点和存储...
使用Hologres和大模型免费定制专属聊天机器人
使用大模型定制聊天机器人，除了训练大模型的方式外，还可以使用提示词微调（Prompt-tuning）的方法，在提问时提供特定行业的相关语料，结合大模型的阅读理解和信息整合能力，对该垂直行业的问题提供更贴切的回答。Hologres是一站式实时数...
使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理
在本教程中，您将学习如何将阿里云公共SD模型库转存至NAS，并将NAS挂载至阿里云模型在线服务（PAI-EAS）上实现模型的灵活切换与推理部署。背景信息 阿里云模型在线服务PAI-EAS（Elastic Algorithm Service）是一种模型在线服务平台，可支持...
LLM on DLC-Megatron on DLC最佳实践
大语言模型（LLM）是指参数数量达到亿级别的神经网络语言模型，例如：GPT-3、GPT-4、PaLM、PaLM2等。Megatron-LM 是由NVIDIA的应用深度学习研究团队开发的Transformer模型训练框架，它可以高效利用算力、显存和通信带宽，大幅提升了大语言...
通义灵码介绍
产品优势 跨文件感知让代码生成更贴合业务场景：客户端和模型层同步优化针对代码跨文件上下文感知能力，生成代码更加贴合当前代码库的业务场景。阿里云服务使用场景友好：专门针对阿里云的云服务使用、SDK/OpenAPI 的使用等场景调优，编码...
模型创建
Lindorm AI引擎支持导入预训练AI模型，对数据库内的数据进行分析和处理或对时序数据进行建模，执行时序分析类任务。语法 CREATE MODEL model_name FROM {table_name|(select_statement)|model_file_path|huggingface_repo|modelscope_repo}...
基于AIACC加速器快速实现AIGC绘画
AIACC-Inference（AIACC推理加速器）Torch版可通过对模型的计算图进行切割，执行层间融合，以及高性能OP实现，大幅度提升PyTorch的推理性能。您无需指定精度和输入尺寸，即可通过JIT编译的方式对PyTorch框架下的深度学习模型进行推理优化。...
模型分析优化
模型分析工具简介 AI套件提供了模型分析优化工具，在模型正式部署前，对模型进行性能压测，分析模型网络结构、每个算子耗时、GPU使用情况等，找到性能瓶颈，然后使用TensorRT等优化模型，达到上线标准后再进行部署。模型分析优化工具的生命...
测试协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义万相大模型API测试协议》（下称“本协议”）并测试体验通义万相大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议...
测试协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义万相大模型API测试协议》（下称“本协议”）并测试体验通义万相大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议...
服务协议
提示条款 欢迎您与杭州耘点科技有限公司（下称“我们”）共同签署本《通义千问大模型API服务协议》（下称“本协议”）并使用通义千问大模型API！协议中条款前所列索引关键词仅为帮助您理解该条款表达的主旨之用，不影响或限制本协议条款的...
宽表模型介绍
如何理解主键、数据分区和数据分区键 表格存储中表、行、列、值和电子表格的类比 相关文档 您可以通过控制台、命令行工具快速体验宽表模型。具体操作，请参见 使用宽表模型。如果要实现实例数据的机房级容灾，您可以通过创建同城冗余类型的...
计量计费
在OpenNLU开放域文本理解模型中，单个token平均约对应1.5个汉字,0.7个英文单词。OpenNLU开放域文本理解模型根据模型输出结果对应的token数量进行计量计费。每一次模型调用产生的实际token数量可以从 response 中获取。计费单价 模型名称 ...
计量计费
在OpenNLU开放域文本理解模型中，单个token平均约对应1.5个汉字,0.7个英文单词。OpenNLU开放域文本理解模型根据模型输出结果对应的token数量进行计量计费。每一次模型调用产生的实际token数量可以从 response 中获取。计费单价 模型名称 ...
基于NAS部署可更换模型的FC Stable Diffusion进行AI...
例如，在 Stable Diffusion模型（ckpt）下拉列表中切换模型为 dreamshaper_7，切换完成后，在 文生图 页面输入如下信息，然后单击 生成。提示词：photo of the warrior Aragorn from Lord of the Rings,film grain 反向提示词：BadDream,...
CREATE MODEL
Lindorm AI引擎支持通过Lindorm SQL创建AI模型，对宽表引擎或时序引擎中的数据进行建模分析。您可以根据业务场景，在CREATE MODEL语句中设置推理任务类型、配置任务参数，创建不同类型的模型，例如文生图、检索问答、时序预测等模型。引擎...
从0快速搭建个人版“对话大模型”
本教程介绍如何在阿里云GPU云服务器上基于 Alpaca大模型 快速搭建个人版“对话大模型”。背景信息 Alpaca大模型 是一款基于LLaMA的大语言模型，它可以模拟自然语言进行对话交互，并协助用户完成写作、翻译、编写代码、生成脚本等一系列创作...
- 产品推荐
- 这些文档可能帮助您