功能特性
本文档主要介绍数据湖分析服务DLA包含的核心功能以及应用场景。数据湖分析服务DLA支持以下功能：功能名称 功能描述 参考文档 账号管理 账号分为DLA账号、RAM账号。您可以创建DLA子账号，并关联RAM子账号，关联后可以通过RAM子账号提交Spark...
常见术语
本文档主要介绍云原生数据湖分析（Data Lake Analytics，DLA）文档中涉及的基本概念。数据湖 数据湖是一个集中式存储库，允许您以任意规模存储所有结构化和非结构化数据，数据湖支持存储EB级别的数据，阿里云数据湖存储以OSS为代表！数据湖...
版本发布记录
本文介绍云原生数据湖分析DLA的产品功能动态。2021年6月 类别 功能点 描述 相关文档 集群管理 监控报警 Spark集群支持监控报警。查看Spark监控 数据湖管理 从库读取 Lakehouse支持RDS、PolarDB MySQL从库读取。无 性能提升 Lakehouse支持DB...
使用流程
云原生数据湖分析DLA（Data Lake Analytics）是无服务器（Serverless）化的云上交互式查询分析服务，支持通过Presto和Spark引擎分析多种数据源中的数据。快速入门旨在介绍如何开通DLA、构建数据湖、调用Presto和Spark引擎进行数据分析与...
产品简介
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos打通了阿里云各个存储系统，如...
什么是云原生数据湖分析
重要 云原生数据湖分析（DLA）产品已退市，云原生数据仓库 AnalyticDB MySQL 版 湖仓版支持DLA已有功能，并提供更多的功能和更好的性能。AnalyticDB for MySQL 相关使用文档，请参见 云原生数据仓库AnalyticDB MySQL版产品简介。云原生数据...
创建和执行Spark作业
本文介绍如何在数据湖分析控制台创建和执行Spark作业。准备事项 您需要在提交作业之前先创建虚拟集群。说明 创建虚拟集群时注意选择引擎类型为 Spark。如果您是子账号登录，需要配置子账号提交作业的权限，具体请参考 细粒度配置RAM子账号...
OSS访问日志分析
您可以通过日志服务SLS存储和分析OSS日志数据，也可以将OSS日志数据导出并存储到指定的OSS目录长期保存，然后通过数据湖分析服务对长期保存的OSS日志数据进行分析。通过数据湖分析服务（Data Lake Analytics，DLA）分析OSS日志数据前，您...
友盟数据分析
您需要购买数据湖分析流量包并完成支付，通过阿里云数据湖分析DLA产品来进行数据的查询和投递。支付完成后请您不要关闭浏览器，等待开通成功的提示窗口。查询数据 服务开通成功之后，等待一段时间您就可以看到友盟自动为您的阿里云账号创建...
通过元信息发现功能查询并分析OSS数据
操作步骤 开通云原生数据湖分析服务。登录 OSS管理控制台，上传文件到OSS，具体操作请参见 上传文件。例如将 supplier_with_header.csv 文件上传到OSS的指定目录 oss:/alibaba-crawler/schema1/supply_ceshi/。登录 数据湖分析管理控制台，...
Serverless Presto概述
阿里云数据湖分析团队在Presto之上又进行了很多的优化，DLA支持了阿里云几乎所有的数据源比如AnalyticDB、TableStore等等；阿里云数据湖分析团队优化了Hive Connector，使得分析OSS数据时对OSS调用量大幅下降，从而提高性能且节省成本；DLA...
数据湖投递概述
表格存储 数据湖投递可以全量备份或实时投递数据到数据湖OSS中存储，以满足更低成本的历史数据存储，以及更大规模的离线和准实时数据分析需求。应用场景 利用数据湖投递可以实现如下场景需求：冷热数据分层 数据湖投递结合 表格存储 的 ...
Java SDK Demo
本文以一个完整的程序为例，提交一个计算π的作业到数据湖分析DLA，跟踪它的状态，查询历史上的运行结果。import com.aliyuncs.DefaultAcsClient;import com.aliyuncs.IAcsClient;import com.aliyuncs.exceptions.ClientException;import ...
计费模式
本文介绍数据湖构建中各资源的计费规格，包括入湖作业资源用量、数据存储对象和元数据请求三部分。计量计费项 重要 DLF产品目前所有功能为 0折扣活动阶段，即使超过免费阶梯限定后，目前也均不会产生实际计费。元数据对象的存储量 元数据...
数据湖集群
本文为您介绍数据湖集群支持的特性，以及与旧版Hadoop集群之间的差异。数据湖集群特性介绍 可靠性 如果您启用了集群的高可用服务，则EMR把3台Master节点分布在底层不同的硬件上以降低故障风险。另外，考虑到Master节点在损坏情况下的修复...
ActionTrail日志清洗
在DLA中完成以下操作：开通DLA服务，请参见 开通云原生数据湖分析服务。初始化DLA数据库主账号密码，请参见 重置数据库账号密码。步骤一：创建Schema 登录 Data Lake Analytics管理控制台。在页面左上角，选择DLA所在地域。在左侧导航栏...
产品优势
云原生数据湖分析DLA（Data Lake Analytics）是新一代大数据解决方案，采取计算与存储完全分离的架构，支持数据库与消息实时归档建仓。DLA提供弹性的Spark与Presto，满足在线交互式查询、流处理、批处理、机器学习等诉求，也是传统Hadoop...
约束和限制
本文档主要介绍了云原生数据湖分析（Data Lake Analytics，DLA）的限制约束条件。账号和元数据限制 限制 描述 每个账号可购买虚拟集群数量的最大值 10 每个DLA Presto虚拟集群可配置的数据源网络数量 1 每个账号可创建数据库的最大值 100 ...
数据归档概述
查询归档数据需要通过DBS开通数据湖，在云原生数据湖分析DLA中查询已归档数据。指定归档位置 无需关注数据存储的具体位置。需要指定OSS。不需要指定OSS。系统会自动在DBS中创建一个备份计划，将数据归档至OSS。表结构变化 表结构不变化。表...
产品概述
支持高并行访问OSS，构筑数据湖分析。产品架构 云原生数据仓库 AnalyticDB PostgreSQL 版 采用MPP架构，实例由多个 计算节点 组成，存储磁盘类型支持高效云盘和ESSD云盘，计算和存储分离，可以独立增加节点或扩容，且保持查询响应时间不变...
SDK安装与使用
获取开发用的SDK 可以在PIP的仓库中获取数据湖分析最新的开发SDK包，地址为 Python SDK官方地址。使用SDK提交Spark作业 获取用户的AccessKey，详情请参见 获取AccessKey。获取当前使用区的RegionId,阿里云各区的RegionId可以参见 地域和...
读写AnalyticDB for PostgreSQL数据
数据湖分析DLA（Data Lata Analytics）支持接入AnalyticDB for PostgreSQL服务，通过标准SQL语句读写AnalyticDB for PostgreSQL中的数据。准备工作 您需要在AnalyticDB for PostgreSQL中进行以下操作：创建实例和配置实例，具体操作请参见 ...
背景信息以及准备工作
在同一地域开通 数据湖分析 DLA（Data Lake Analytics）服务、AnalyticDB for MySQL 3.0 以及 对象存储服务 OSS（Object Storage Service）服务。在AnalyticDB for MySQL中创建数据库和表，用于存储OSS数据，请参见 CREATE DATABASE、...
数据分析概述
本文为您介绍数据分析平台的优势、功能、权限等概要信息。产品优势 与本地数据分析相比，在线数据分析的优势如下：海量：借助计算引擎的能力，可以高效分析全量、海量的数据。流动：在线数据分析可以从不同数据源获取数据进行查询和分析，...
测试结果
本次测试采用3种不同的测试场景，针对开源自建的Hadoop+Spark集群与阿里云云原生数据湖分析DLA Spark在执行Terasort基准测试的性能做了对比分析。本文档主要展示了开源自建Spark和DLA Spark在3种测试场景下的测试结果及性能对比分析。1 TB...
即时查询DBS逻辑备份
已开通数据湖分析（Data Lake Analytics，简称DLA）服务。重要 自2023年06月01日起，DLA已停止开通和售卖。如果您在该日期之前已开通了DLA服务，请继续参考本文进行操作。超出该日期后将无法再开通该功能。更多详情，请参见【通知】停止...
权限说明
本文主要介绍数据湖构建（DLF）的权限体系说明，介绍如何为子账号授予合适的权限，以使其可以正确的使用和访问DLF的功能。数据湖构建（DLF）产品的权限体系主要分为RAM权限以及DLF数据权限控制两大类，如果您要访问DLF的页面或数据，一般都...
调度DLA Presto任务
开通DLA服务，请参见 开通云原生数据湖分析服务。初始化数据库主账号密码，请参见 重置数据库账号密码。创建Schema和表。创建Schema CREATE SCHEMA gmall with DBPROPERTIES(LOCATION='oss:/oss-bucket-name/gmall/',catalog='oss'); ...
授权信息
本文为您介绍 数据湖构建（DataLake）为RAM权限策略定义的操作（Action）、资源（Resource）和条件（Condition）。数据湖构建（DataLake）的RAM代码（RamCode）为 dlf,dlf-dss，支持的授权粒度为 OPERATION。权限策略通用结构 权限策略支持...
应用场景
DBS提供秒级恢复、备份数据湖分析等能力，可触达本地数据中心、其他云厂商、专有云及公共云等环境，构建企业级混合云统一备份平台 数据库备份DBS支持通过数据库网关备份本地或第三方云的私网数据库到云存储，可将数据库低成本地接入至阿里...
应用场景
DBS提供秒级恢复、备份数据湖分析等能力，可触达本地数据中心、其他云厂商、专有云及公共云等环境，构建企业级混合云统一备份平台 数据库备份DBS支持通过数据库网关备份本地或第三方云的私网数据库到云存储，可将数据库低成本地接入至阿里...
上海新能源汽车车辆基础数据
云原生数据湖分析（简称DLA）Spark分析引擎满足在线交互式查询、流处理、批处理、机器学习等业务诉求。客户价值 Lindorm宽表引擎批量写入、高效压缩，线性扩展等特性使得数据采集入库性能更高、成本更低，很好的支撑了业务的快速发展，对于...
数据分析作业
本文为您介绍数据分析场景下的常用工具与使用注意事项。使用SQL查询 您可以在 使用SQL分析连接 的查询模式下执行各种SQL命令和授权命令，与在 使用客户端（odpscmd）连接 的执行结果等效。您还可以切换到分析模式使用Web Excel强大而丰富的...
管理RAM账号
云原生数据湖分析DLA使用的系统策略如下：AliyunDLAFullAccess：管理DLA的权限，包括对DLA中所有资源的所有操作权限。AliyunDLADeveloperAccess：开发者权限，与AliyunDLAFullAccess策略相比，不授予虚拟集群的创建、修改、释放等操作权限...
什么是数据库网关
DBS提供秒级恢复、备份数据湖分析等能力，可触达本地数据中心、其他云厂商、专有云及公共云等环境，构建企业级混合云统一备份平台。数据库备份DBS支持通过数据库网关备份本地或第三方云的私网数据库到云存储，可将数据库低成本地接入至阿里...
【通知】停止售卖云原生数据湖分析DLA
阿里云计划停止售卖云原生数据湖分析DLA，其湖分析功能将并入云原生数据仓库AnalyticDB MySQL版。停售对象 云原生数据湖分析DLA 停售计划 2023年06月01日起，停止新购云原生数据湖分析DLA实例和开通服务。2023年12月01日起，停止升级云原生...
查询概述
湖仓一体 SelectDB提供多源数据目录功能（Multi-Catalog或Catalog），支持对接数据湖（如Hive、Iceberg、Hudi）、数据库（如MySQL、ES）等大量外部数据源，进行简单快速的数据分析。通过使用Catalog，您可以快速访问和分析存储在外部数据源...
数据分析整体趋势
本文为您介绍数据分析的技术发展趋势和市场趋势。技术发展趋势 商业数据库起步于二十世纪八十年代，主要代表为Oracle，SQL Server，DB2等结构化数据在线处理的关系型数据库，而以MySQL，PostgreSQL为代表的开源关系型数据库也在二十世纪九...
漏斗分析
开通云原生数据湖分析服务。重置数据库账号密码。步骤一：创建OSS Schema CREATE Schema funnel_test_schema WITH DBPROPERTIES(catalog='oss',location='oss:/bucket-name/') 步骤二：创建表 CREATE EXTERNAL TABLE IF NOT EXISTS ...
与Spark集成分析
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos提供了不同级别的数据分析模型，...
- 产品推荐
- 这些文档可能帮助您