LLM大语言模型端到端链路：数据处理+模型训练+模型...
本文介绍如何使用PAI提供的LLM大语言模型数据处理组件、训练组件和推理组件，端到端完成大模型的开发和使用。前提条件 已创建工作空间，详情请参见 创建工作空间。已将MaxCompute资源和通用计算资源关联到工作空间，详情请参见 管理工作...
LLM数据处理
本文以开源项目RedPajama在GitHub中的少量数据为例，为您介绍如何使用PAI提供的LLM大语言模型数据处理组件，对GitHub代码数据进行数据清洗和处理。前提条件 已创建工作空间，详情请参见 创建工作空间。已将MaxCompute资源关联到工作空间，...
MaxFrame概述
您可以用更熟悉、高效、便捷的方式利用MaxCompute的海量计算资源及数据进行大规模数据处理、可视化数据探索分析以及科学计算、ML/AI开发等工作。本文为您介绍MaxFrame背景信息、功能介绍及使用场景。版本说明 当前MaxCompute MaxFrame功能...
应用场景
访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
应用场景
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
聚合支付方案
借助PolarDB和 AnalyticDB MySQL 的大数据处理能力，决策报表的生成时间从分钟级别降低至秒级，大部分报表可以在10秒内生成，部分特别复杂的报表生成时间为1分钟。业务行为和业务决策平滑对接，决策者可以通过报表数据快速进行业务决策，...
2024年
新说明 ECS资源复用版是MaxCompute按量付费类型中的一种实例规格，旨在将ECS闲置实例转换为可用的MaxCompute计算资源，该方式可以充分利用已有的计算资源，而不需要额外购买新的MaxCompute计算资源，从而在满足大数据处理需求的同时，提高...
DataWorks On EMR使用说明
背景信息 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。阿里云...
如何对JSON类型进行高效分析
PolarDB 列存索引（In Memory Column Index，IMCI）功能推出了完备的虚拟列与列式JSON功能等，可以快速处理大数据和多种数据类型（包括结构化数据与半结构化数据等），并提供高效的数据分析、查询与流计算能力，适用于数据分析、数据仓库与...
PolarDB HTAP实时数据分析技术解密
在处理大数据量下复杂查询所需要的能力方面，如优化器处理子查询的能力、高性能算子HashJoin、SQL并行执行等。社区将其处于低优先级，因此MySQL的数据分析能力提升进展缓慢。随着MySQL的发展，用户使用其存储了大量的数据，并且运行着关键...
列存索引技术架构介绍
在处理大数据量下复杂查询所需要的能力方面，如优化器处理子查询的能力、高性能算子HashJoin、SQL并行执行能力等，MySQL社区一直将其放在比较低优先级上，因此，MySQL的数据分析能力提升进展缓慢。随着MySQL发展为世界上最为流行的开源数据...
EMR Workbench
阿里云EMR Workbench是一个综合性的大数据分析和开发环境，作为阿里云E-MapReduce的一部分，它提供了EMR Notebook和EMR Workflow两个核心功能。通过EMR Workbench，您可以轻松进行数据开发，以及交互式数据分析，并设计复杂的数据处理工作...
PyODPS概述
PyODPS提供了 to_pandas 接口，可以直接将MaxCompute数据转化成Pandas DataFrame数据结构，但这个接口只应该被用于获取小规模数据做本地开发调试使用，而不是用来大规模处理数据，因为使用这个接口会触发下载行为，将位于MaxCompute中的...
配置跨库Spark SQL节点
大数据量处理：支持快速处理较大规模的数据（十万条以上数据）。Spark SQL语法：基于Spark 3.1.2版本部署，提供该版本所有语法特性和原生函数。原生函数包括聚合函数、窗口函数、数组函数、Map函数、日期和时间处理函数、JSON处理函数等。...
水波图
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水波图配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。更新组件...
水波图
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水波图配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。移动 将组件...
仪表盘
动作 动作 说明 请求仪表盘接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如仪表盘配置了API数据源为 https://api.test ，传到 请求仪表盘接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
旭日图
动作 动作 说明 请求旭日图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如旭日图配置了API数据源为 https://api.test ，传到 请求旭日图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
3D环图
动作 动作 说明 请求3d环图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如3D环图配置了API数据源为 https://api.test ，传到 请求3D环图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
堆叠区域图
动作 动作 说明 请求堆叠区域图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如堆叠区域图配置了API数据源为 https://api.test ，传到 请求堆叠区域图接口描述 动作的数据为 { id:'1'}，则最终请求...
梯形柱状图
请求梯形柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如梯形柱状图配置了API数据源为 https://api.test ，传到 请求梯形柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
基本柱状图（v3.0及以上版本）
动作 动作 说明 请求基本柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基本柱状图配置了API数据源为 https://api.test ，传到 请求基本柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
基础折线图
动作 动作 说明 请求基础折线图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础折线图配置了API数据源为 https://api.test ，传到 请求基础折线图接口描述 动作的数据为 { id:'1'}，则最终请求...
水平胶囊柱状图
请求水平胶囊柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水平胶囊柱状图配置了API数据源为 https://api.test ，传到 请求水平胶囊柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
分组柱状图
请求分组柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如分组柱状图配置了API数据源为 https://api.test ，传到 请求分组柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
基础区域图
动作 动作 说明 请求基础区域图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础区域图配置了API数据源为 https://api.test ，传到 请求基础区域图接口描述 动作的数据为 { id:'1'}，则最终请求...
词云
动作 动作 说明 请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如词云配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 ...
基础折线图
动作 动作 说明 请求基础折线图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础折线图配置了API数据源为 https://api.test ，传到 请求基础折线图接口描述 动作的数据为 { id:'1'}，则最终请求...
梯形柱状图（v3.0及以上版本）
动作 动作 说明 请求梯形柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如梯形柱状图配置了API数据源为 https://api.test ，传到 请求梯形柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
分组柱状图（v3.0及以上版本）
动作 动作 说明 请求分组柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如分组柱状图配置了API数据源为 https://api.test ，传到 请求分组柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
堆叠区域图
动作 动作 说明 请求堆叠区域图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础区域图配置了API数据源为 https://api.test ，传到 请求堆叠区域图接口描述 动作的数据为 { id:'1'}，则最终请求...
双轴折线图
请求双轴折线图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如双轴折线图配置了API数据源为 https://api.test ，传到 请求双轴折线图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
斑马柱状图
请求斑马柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如斑马柱状图配置了API数据源为 https://api.test ，传到 请求斑马柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
区间范围柱状图（v4.x版本）
动作 动作 说明 请求区间范围柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区间范围柱状图配置了API数据源为 https://api.test ，传到 请求区间范围柱状图接口 动作的数据为 { id:'1'}，则最终...
斑马柱状图（v3.0及以上版本）
动作 动作 说明 请求斑马柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如斑马柱状图配置了API数据源为 https://api.test ，传到 请求斑马柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
双轴折线图（v3.0及以上版本）
动作 动作 说明 请求双轴折线图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如双轴折线图配置了API数据源为 https://api.test ，传到 请求双轴折线图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
水平基本柱状图（v4.0及以上版本）
动作 动作 说明 请求水平基本柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水平基本柱状图配置了API数据源为 https://api.test ，传到 请求水平基本柱状图接口 动作的数据为 { id:'1'}，则最终...
- 产品推荐
- 这些文档可能帮助您