基于Delta lake的一站式数据湖构建与分析实战
2.统一元数据服务 对象存储本身是没有面向大数据分析的语义的，需要结合Hive Metastore Service等元数据服务为上层各种分析引擎提供数据的Meta信息。数据湖计算与分析 相比于数据仓库，数据湖以更开放的方式对接多种不同的计算引擎，如传统...
快速体验MaxCompute
您无需进行数据同步，可直接上手体验数据分析。登录并进入 MaxComputeSQL分析页面，在左上角选择地域。单击左侧 资源管理器 图标，打开资源管理器页面，在页面左下角的 公共数据集DEMO 中，单击GithubEventAnalytics样例文件，在右侧的 ...
自动同步PolarDB-X元数据
PolarDB-X 2.0实例 开通列存引擎，绑定 湖仓版（3.0）集群后，湖仓版（3.0）集群 会自动 创建元数据发现任务，PolarDB-X 2.0实例列存表的元数据信息会自动同步到 湖仓版（3.0）集群，您可以直接在 湖仓版（3.0）集群中进行数据分析。...
数据聚合分析
实例时序数据分析 实例的CPU使用率大于某个阈值的次数；实例的内存使用大于某个阈值的次数；实例的磁盘IO使用大于某个阈值的次数；实例的QPS、RT、TPS大于某个阈值的次数。查询详情统计分析 用户查询中用到的算子的输入输出、资源消耗等...
Lindorm实时入湖建仓分析
在 SQL执行 页面，系统已经选中了目标库，您可以直接输入SQL语句进行数据分析。Lindorm与DLA的字段类型转换表 目前支持的字段类型转换如下。Lindorm字段类型 DLA字段类型 long、usigned_long、short、unsigned_short、int、unsigned_...
数据归档概述
当线上数据库中的历史数据（访问率很低的数据）越来越多，占用的存储越来越大，以至于会影响数据库的查询性能与业务运转，此时您可以使用 数据管理DMS 的数据归档功能，周期性地将指定表的数据归档至其他数据库或存储服务中。同时，该功能...
应用场景
但数据体系复杂、数据不统一，数据分析速度和数据准确一致性难保障，战略决策与数据化运营受阻。解决方案：数据融合：通过数据引入功能，将业务系统数据集成、融合一体，统一基础数据。数据建模：通过规范建模功能，结合业务发展需求，自顶...
友盟数据分析
U-DOP数据开放平台是友盟+为开发者提供的数据开放和私域数据融合的平台，通过一键订阅分析模板、拖拽式自助分析报表来快速完成数据分析工作。U-DOP数据开放平台不仅仅为您提供了U-App的统计明细数据，同时包含了多主题的分析模板和可订阅的...
概览页
注意：概览页的数据只统计执行成功的任务文件数据，执行中和失败的文件不做统计。质检数据最长存储90天，超过90天的数据会自动清除，无法找回，建议您定期导出数据进行本地存储。基础数据 基础数据中汇总了指定时间区间内，所有质检文件...
替换数据集
您在应用模板市场的模板或有批量替换仪表板中所有组件的数据字段的需求时，如果报表中的组件数量较多，手动逐一更新数据将非常低效。您可考虑使用Quick BI数据替换功能，分为页面级数据替换、组件级数据替换，可提高搭建仪表板的效率，降低...
无感数据集成（Zero-ETL）
AnalyticDB for MySQL 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月22号到6月30。公测地域 华北2（北京）、华东1（杭州）、华东2（上海）、...
聚合支付方案
阿里云从业务扩展性、数据流动性、服务高可用三方面入手，通过多款云数据库产品为利楚扫呗制定聚合支付方案，解决利楚扫呗在业务扩展期遇到的数据存储空间不足、读写性能下降以及大数据分析空缺等问题。业务痛点 武汉利楚商务服务有限公司...
测试环境
本次测试针对开源自建的Presto与阿里云云原生数据湖分析DLA Presto在OSS数据源上执行查询的性能做了对比分析。本文档主要介绍了测试环境的配置要求。环境配置要求 客户端ECS与服务端（Presto和DLA Presto）处于同一地域、同一可用区。本例...
维度表
功能概述 在日常分析数据的时候，除了基于正常上报的属性去做一些多维度的分析，业务部门内部可能也会有一些自定义的维度...比如我们要分析应不同设备型号的活跃用户数量，可以在「事件分析」中进行指标分析选择维度表就可以得到数据分析了。
高效数据治理实施指南
基本流程 作为数据治理计划的负责人，在阶段工作规划和日常治理时，都离不开数据分析方法和治理工具的落地。围绕治理目标，从制定到达成的整个过程，其步骤思路可参照下图：以下为您介绍典型的存储成本优化和稳定性优化的实操案例，了解...
ANALYZE
如果省略，则分析当前数据库中的所有常规表、分区表和物化视图（但不包含外部表）。如果指定的表是分区表，则整个分区表的继承统计信息和各个分区的统计信息都将更新。column_name 要分析的一个指定列的名称。默认是所有列。输出 当指定了 ...
开发管控：管理者
控制某用户不允许进入数据分析，则请勿为该用户赋予数据分析师角色权限。控制某用户可创建节点并编辑代码、创建表、创建函数等，可仅赋予该用户开发角色权限。空间级模块权限管控 强制代码评审 用于保障代码正确性。该功能开启后，开发人员...
分析外部OSS上的数据
技术原理 列存索引（IMCI）是一个高性能的列存分析引擎，相关文档请参见 PolarDB HTAP实时数据分析技术解密，ORC和Parquet也是列存格式，OSS支持高并发读取，在高并发时可以获取更高的网络吞吐。因此，IMCI的并行扫描功能可以充分利用OSS的...
有数BI
AnalyticDB MySQL版 支持您将 AnalyticDB MySQL版 数据接入网易有数BI，帮助您轻松完成数据分析和数据可视化工作。本文为您介绍如何使用网易有数BI连接 AnalyticDB MySQL版，并进行可视化数据分析。前提条件 在执行操作前，请确认您已满足...
无感集成（Zero-ETL）
云原生数据仓库 AnalyticDB PostgreSQL 版 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月1日至6月30日。公测地域 华东2（上海）。方案概述 ...
客户案例
同时，构建自助数据分析平台，快速满足各类人员不同数据分析需求。数据体系整体上云，使用少量组件即可实现流批一体、湖仓一体，完成从数据驱动到数智驱动，极大发挥数据价值。视频介绍 社交媒体行业：欢聚时代大规模数据湖建设 客户简介 ...
2023年
授权实践 2023-09-14 新增（邀测）MaxCompute Notebook使用说明 新说明 MaxCompute Notebook是由MaxCompute提供的全托管、交互式数据分析挖掘模块，为数据工程师、数据分析师及数据科学家等人员提供Web交互式开发环境。支持用户通过SQL、...
概述
业务场景 Quick BI开放集成支持以下产品能力：开放集成 开放API 嵌入分析 数据服务 自定义扩展 自定义组件 自定义模板 开放能力 开放平台支持以下能力：数据链接 可接入客户数据源提供数据查询、分析服务。请参见 创建API接口。使用业务...
DLA Lakehouse实时入湖
您需要在DTS中进行以下操作：说明 目前DLA中RDS数据源的入湖分析工作负载，会先利用RDS做数据的全量同步，然后依赖DTS数据订阅功能做增量同步，最终实现完整的RDS数据入湖。创建RDS MySQL数据订阅通道 说明 由于DLA Lakehouse只支持专有...
功能特性
功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 DQL操作 DQL操作 DQL操作 函数开发 内建函数 MaxCompute提供丰富的内建函数，方便用户进行数据分析和数据加工。内建函数 自定义函数 MaxCompute支持...
资产安全概述
典型应用场景：数据分析场景的即席查询、数据开发场景的生产数据写开发、数据消费里的数据服务等。静态脱敏 直接修改底层数据的存储，数据存储时就已经是加密或者脱敏过的，例如常见的pn_md5。典型应用场景：数据集成时对敏感数据加密、数...
资产安全概述
典型应用场景：数据分析场景的即席查询、数据开发场景的生产数据写开发、数据消费里的数据服务等。静态脱敏 直接修改底层数据的存储，数据存储时就已经是加密或者脱敏过的，例如常见的pn_md5。典型应用场景：数据集成时对敏感数据加密、数...
DataWorks数据服务对接DataV最佳实践
DataV通过与DataWorks数据服务的对接，通过交互式分析Hologres连接DataWorks数据服务开发并生成API，快速在DataV中调用API并展现MaxCompute的数据分析结果。数据服务对接DataV产生背景 MaxCompute是阿里巴巴集团自主研究的快速、完全托管的...
PolarDB HTAP实时数据分析技术解密
除云上OLTP场景外，大量客户也对PolarDB提出了实时数据分析的性能需求。对此，PolarDB技术团队提出了In-Memory Column Index（IMCI）的技术方案，此方案在复杂分析查询场景获得了数百倍的加速效果。MySQL生态HTAP数据库解决方案 MySQL是一...
查询报错问题
分析型数据库MySQL版会对select语句查询的返回结果集做全局最大限制，如果不加limit或limit函数超过10000，则只能返回10000行。可以在查询中添加注解/*+limitmax=<最大值>*/，例如/*+limitmax=2000000*/select*from ar_express3 limit ...
新功能发布记录
数据归档至AnalyticDB PostgreSQL版 数据分析 新增 数据分析功能支持通过图形或组件，将数据库中的表数据直观地展示出来。概述 名词解释 访问数据分析功能 管理数据集 仪表盘 08月 功能名称 变更类型 功能描述 相关文档 极简模式 新增 极简...
低成本历史库
能够满足数据分析需求，历史数据访问频度低，但是在某些业务场景下需要对全量数据进行挖掘分析，比如支付宝年账单。云原生多模数据库Lindorm（HBase增强版）能够同时满足存储成本低廉、运维简单、弹性伸缩、性能稳定等需求可以和关系型数据...
产品系列
支持 支持（单机版不支持）不支持 分时弹性 支持 支持（单机版不支持）不支持 按需弹性 支持 不支持 不支持 冷热数据分层-支持 支持 不支持 数据接入 数据实时接入 支持 不支持 不支持 元数据自动发现 支持 不支持 不支持 作业开发 SQL作业...
低成本RDS历史库
能够满足数据分析需求，历史数据访问频度低，但是在某些业务场景下需要对全量数据进行挖掘分析，比如支付宝年账单。云原生多模数据库Lindorm（HBase增强版）能够同时满足存储成本低廉、运维简单、弹性伸缩、性能稳定等需求可以和关系型数据...
Quick BI
数据可视化分析 单击左侧导航栏中的 数据集>新建数据集，选择之前配置的AnalyticDB链接，选择表的种类，将数据集添加进数据决策系统并进行后续的数据分析和仪表板展示。您可以使用如下两种方式进行数据的可视化分析：拖拽表对应列方式：...
应用场景：低成本历史库
能够满足数据分析需求，历史数据访问频度低，但是在某些业务场景下需要对全量数据进行挖掘分析，比如支付宝年账单。云原生多模数据库 Lindorm 能够同时满足存储成本低廉、运维简单、弹性伸缩、性能稳定等需求可以和关系型数据库完美组合，...
产品安全能力
数据脱敏 在数据库使用中，需要实时地从生产环境中的数据库（即生产库）获取最新的客户数据来进行报表生成、数据分析、开发测试等。但为了不泄露真实的客户个人信息（Personal Identifiable Information），需要将这些数据进行脱敏处理后...
属性分析
说明 文档说明：本文档内容为 Quick Tracking 产品使用介绍和技术集成说明文档，不作为销售依据；具体企业采购产品和技术服务内容，以商业采购合同为准。概述 根据用户的属性进行统计分析，例如按照用户首次注册时间做统计、分析用户性别占...
Delta Lake概述
在使用数据时，通过Spark或Presto对接数据分析引擎并进行数据解析。但该套方案存在如下问题：数据导入可能会失败，失败后清理脏数据和恢复作业困难。方案中没有ETL（Extract Transform Load）过程，缺少必要的数据质量监管。方案中没有事务...
冷热分层
更多介绍请参见 结构化大数据分析平台设计、面向海量数据的极致成本优化-云HBase的一体化冷热分离 和 云上如何做冷热数据分离。冷热数据 数据按照实际访问的频率可以分为热数据、温数据和冷数据。其中冷数据的数据量较大，很少被访问，甚至...
- 产品推荐
- 这些文档可能帮助您