什么是MaxCompute
MaxCompute是适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您可以经济并高效...
【通知】停止售卖云原生数据湖分析DLA
阿里云计划停止售卖云原生数据湖分析DLA，其湖分析功能将并入云原生数据仓库AnalyticDB MySQL版。停售对象 云原生数据湖分析DLA 停售计划 2023年06月01日起，停止新购云原生数据湖分析DLA实例和开通服务。2023年12月01日起，停止升级云原生...
与Spark集成分析
基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos提供了不同级别的数据分析模型，最基础的是GeometryRDD模型，用来实现Ganos数据中SimpleFeature与Spark中RDD模型的之间的转换。在GeometryRDD基础上，DLA ...
与Spark集成分析
基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos提供了不同级别的数据分析模型，最基础的是GeometryRDD模型，用来实现Ganos数据中SimpleFeature与Spark中RDD模型的之间的转换。在GeometryRDD基础上，DLA ...
计费概述
计费方式 计费类别 说明 适用场景 相关文档 按计算资源付费 数据湖分析CU版根据购买的CU规格进行计费，费用跟运行查询扫描的数据量没有关系。计费模式如下。包年包月。按量付费。适用于查询频率高、查询数据量较大的场景，同时也能够给您...
版本发布记录
本文介绍云原生数据湖分析DLA的产品功能动态。2021年6月 类别 功能点 描述 相关文档 集群管理 监控报警 Spark集群支持监控报警。...接入MNS和ONS消息系统 接入MNS和ONS消息系统，能够极大提升数据湖数据处理扭转和业务集成的便利性。
产品简介
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos打通了阿里云各个存储系统，如...
基于MaxCompute进行大数据BI分析
本实践以电商行业为例，通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理，并同步至分析型数据库MySQL（AnalyticDB MySQL）进行实时分析，再通过Quick BI进行可视化展示。背景信息 MaxCompute：用于进行大规模数据计算，详情请...
快速配置子账号权限
重要 云原生数据湖分析（DLA）产品已退市，云原生数据仓库 AnalyticDB MySQL 版 湖仓版支持DLA已有功能，并提供更多的功能和更好的性能。AnalyticDB for MySQL 相关使用文档，请参见 账号授权。前提条件 已创建RAM子账号。具体请参见 创建...
OSS访问日志分析
如果您选择的Bucket已开通日志转存功能，单击 确定 自动跳转到数据湖 SQL执行 页面，您可以在 SQL执行 页面对OSS访问日志进行数据分析，日志字段的含义请参见 日志转存。常见问题 首次开通OSS日志转存后，立刻在DLA中执行SQL查询遇到以下...
SDK安装与使用
使用SDK提交作业的代码如下所示：/*提交一个作业到数据湖分析Serverless Spark*@param regionId 使用的数据湖分析的REGION_ID*@param accessKeyId 用户AccessKeyId*@param accessKeySecret 用户AccessKeySecret*@param virtualClusterName ...
细粒度配置RAM子账号权限
权限策略的说明如下：权限策略名称 权限策略说明 AliyunDLAFullAccess 用于数据湖分析的管理员权限，拥有数据湖分析的所有权限，可以执行新建集群、删除集群、提交作业等操作，停止其它账号的作业等操作。拥有授权给DLA账户的角色的使用权...
元数据抽取
元数据抽取可以分析数据湖中特定格式的数据，并自动生成元数据信息，通过周期性或手动执行，实现数据湖分析计算shema on read目标。使用限制 抽取的数据存储仅支持数据存储在阿里云OSS标准型中的数据。目前元数据发现仅支持json、csv、...
产品优势
全托管的Databricks数据洞察大数据分析平台，可以让您从繁杂的环境运维、内核优化等工作中解脱出来，专注于开发Spark作业本身。本文介绍Databricks数据洞察的产品优势。高效稳定 产品内核使用Databricks商业版的Runtime和Delta Lake。与...
Serverless Presto概述
Serverless Presto是云原生数据湖团队基于Presto打造的交互式分析引擎，Presto开发的初衷就是为了解决使用Hive来进行在线分析速度太慢的问题，因此它采用全内存流水线化的执行引擎，相较于其它引擎会把中间数据落盘的执行方式，Presto在...
友盟数据分析
U-DOP数据开放平台是友盟+为开发者提供的数据开放和私域数据融合的平台，通过一键订阅分析模板、拖拽式自助分析报表来快速完成数据分析工作。U-DOP数据开放平台不仅仅为您提供了U-App的统计明细数据，同时包含了多主题的分析模板和可订阅的...
ActionTrail日志清洗
在DLA中完成以下操作：开通DLA服务，请参见 开通云原生数据湖分析服务。初始化DLA数据库主账号密码，请参见 重置数据库账号密码。步骤一：创建Schema 登录 Data Lake Analytics管理控制台。在页面左上角，选择DLA所在地域。在左侧导航栏...
通过元信息发现功能查询并分析OSS数据
登录 数据湖分析管理控制台，在左侧导航栏单击 数据湖管理>元信息发现。在 元信息发现 页面的 OSS数据源 区域，单击 进入向导。在 OSS数据源 页签的 数据源配置、调度配置、目标元数据配置 区域，根据实际需要进行参数配置。参数配置说明...
OSS Foreign Table功能概览
OSS Foreign Table（简称OSS FDW）是基于PostgreSQL Foreign Data Wrapper（简称PG FDW）框架开发的用于访问OSS数据的数据分析方案，支持将OSS数据导入至 AnalyticDB PostgreSQL版，且提供分区表功能，在性能、功能以及稳定性上都优于OSS ...
Spark SQL
重要 云原生数据湖分析（DLA）产品已退市，云原生数据仓库 AnalyticDB MySQL 版 湖仓版支持DLA已有功能，并提供更多的功能和更好的性能。AnalyticDB for MySQL 相关使用文档，请参见 Spark SQL开发。Spark访问数据湖元数据服务 Spark引擎...
Java SDK Demo
本文以一个完整的程序为例，提交一个计算π的作业到数据湖分析DLA，跟踪它的状态，查询历史上的运行结果。import com.aliyuncs.DefaultAcsClient;import com.aliyuncs.IAcsClient;import com.aliyuncs.exceptions.ClientException;import ...
概述
Flink（VVR）完全兼容开源Flink，相关内容请参见如下文档：DataStream API Table API&SQL Python API 使用场景 Flink广泛应用于大数据实时化的场景，本文从技术领域和企业应用场景进行介绍。技术领域 从技术领域的角度，Flink主要用于以下...
湖仓一体
概述 云数据库SelectDB 提供多源数据目录功能（Multi-Catalog或Catalog），支持对接数据湖、数据库等外部数据源，进行简单快速地数据分析。Multi-Catalog功能在原有元数据层级之上新增一层Catalog，构成 Catalog->Database->Table 的三层...
删除服务访问点
删除VPC网络 进入 数据湖分析管理控制台。单击待删除VPC网络右侧的 删除。在弹出的 确认删除 框中，单击 确定。在弹出的 手机验证 框中，输入验证码，然后单击 确定 删除服务访问点。单击 更换手机，根据系统提示更换账号绑定手机。
DLA Spark快速入门
操作步骤 登录 云原生数据湖分析管理控制台。在 概览 页面的左上角，选择虚拟集群所在地域。单击左侧导航栏的 Serverless Spark>作业管理。在 作业编辑 页面，单击 创建作业模板，填写以下作业信息：新创建的作业中包含了SparkPi作业的默认...
API概览
云原生数据湖分析DLA提供以下相关API接口。Serverless Spark API 描述 SubmitSparkSQL 提交SparkSQL作业。SubmitSparkJob 提交Spark作业。GetJobStatus 获取Spark作业的执行状态。服务管理 API 描述 CreateInstance 创建实例。...
背景信息以及准备工作
在同一地域开通 数据湖分析 DLA（Data Lake Analytics）服务、AnalyticDB for MySQL 3.0 以及 对象存储服务 OSS（Object Storage Service）服务。在AnalyticDB for MySQL中创建数据库和表，用于存储OSS数据，请参见 CREATE DATABASE、...
数据上云工具
具体示例请参见 Logstash+DataHub+MaxCompute和StreamCompute 进行实时数据分析。OGG（DataHub通道系列）OGG的DataHub插件可以支持将Oracle数据库的数据实时地以增量方式同步到DataHub中，并最终归档到MaxCompute表中。详情请参见 基于OGG ...
应用场景
数据实时分析 传输方式：数据订阅 数据分析在提高企业洞察力和用户体验方面发挥着举足轻重的作用，且实时数据分析能够让企业更快速、灵活地调整市场策略，适应快速变化的市场方向和消费者体验。DTS提供的数据订阅功能，可以在不影响线上...
即时查询DBS逻辑备份
已开通数据湖分析（Data Lake Analytics，简称DLA）服务。重要 自2023年06月01日起，DLA已停止开通和售卖。如果您在该日期之前已开通了DLA服务，请继续参考本文进行操作。超出该日期后将无法再开通该功能。更多详情，请参见【通知】停止...
请求结构
请求地址的构成 数据湖分析通过API操作Spark作业的请求结构如下所示：http://openanalytics.[region-id].aliyuncs.com/?Action=XXX &<公共请求参数>&<接口需求参数>所有接口支持GET方法来调用。调用地址需要填入RegionId 公共请求参数 是...
锁分析
其他锁分析 在 其他锁分析 页签，单击 创建分析，DAS根据 information_schema 和 performance_schema 相关数据，实时分析数据库实例当前会话中的元数据锁和事务阻塞情况。选择时间段，查看该时间段内的诊断结果。单击诊断结果前的 查看锁...
DLA Presto CU版本快速入门
本文主要教您如何快速上手阿里云云原生数据湖分析DLA Presto CU版本。操作步骤 创建虚拟集群 与Serverless Presto扫描版不同，在CU版本下执行SQL前，必须要创建一个虚拟集群。具体请参见 虚拟集群管理。说明 创建虚拟集群时，选项 引擎 ...
数据归档概述
查询归档数据需要通过DBS开通数据湖，在云原生数据湖分析DLA中查询已归档数据。指定归档位置 无需关注数据存储的具体位置。需要指定OSS。不需要指定OSS。系统会自动在DBS中创建一个备份计划，将数据归档至OSS。表结构变化 表结构不变化。表...
调度DLA Spark任务
您已开通云原生数据湖分析服务，详情请参见 开通云原生数据湖分析服务 您已开通OSS服务，详情请参见 开通OSS服务。您已创建DLA Spark虚拟集群，详情请参见 创建虚拟集群。说明 如果您想用RAM用户提交Spark作业，且之前未使用过RAM用户在DLA...
锁分析
其他锁分析：DAS根据 information_schema 和 performance_schema 相关数据，实时分析数据库实例当前会话中的元数据锁和事务阻塞情况。元数据锁分析：DAS根据 information_schema.processlist 等的数据，推导锁等待关系，并生成相应的关系图...
Spark UDF
重要 云原生数据湖分析（DLA）产品已退市，云原生数据仓库 AnalyticDB MySQL 版 湖仓版支持DLA已有功能，并提供更多的功能和更好的性能。AnalyticDB for MySQL 相关使用文档，请参见 Spark SQL开发介绍。使用元数据服务管理用户自定义函数...
锁分析
其他锁分析 在 其他锁分析 页签，单击 创建分析，DAS根据 information_schema 和 performance_schema 相关数据，实时分析数据库实例当前会话中的元数据锁和事务阻塞情况。选择时间段，查看该时间段内的诊断结果。单击诊断结果前的 查看锁...
锁分析
其他锁分析：DAS根据 information_schema 和 performance_schema 相关数据，实时分析数据库实例当前会话中的元数据锁和事务阻塞情况。元数据锁分析：DAS根据 information_schema.processlist 等的数据，推导锁等待关系，并生成相应的关系图...
按扫描量付费
您可以登录 数据湖分析管理控制台，通过 费用>订单 查看消费记录。如何节省费用 您可以先通过以下3种方式对原始数据进行处理，然后再使用DLA扫描数据，可以节省一定的费用。格式转换：把原始数据的格式转换为高性能格式。DLA支持多种高性能...
- 产品推荐
- 这些文档可能帮助您