概述
本节为不熟悉关系数据库管理系统的人介绍 SQL 语言。将讨论创建、填充、查询和更新表等基本操作以及示例。还将讨论视图、外键和事务等更高级的概念。PolarDB PostgreSQL版（兼容Oracle）是关系数据库管理系统（RDBMS）。这意味着它是用于...
数据分析整体趋势
大数据与数据库一体化：早期大数据技术以牺牲一定程度一致性为基础提供分布式能力，解决了传统单机数据库的扩展性不足问题，在MapReduce基础上提供了标准SQL接口，架构上也逐步采用了部分MPP数据库技术；另一方面，分布式数据库也快速发展...
东软案例
根据Forrest统计数据，目前有57%的企业客户IT运维部反馈至少每周会发生一次影响应用性能和可用性的问题；每天都发生问题的比例占到了28%。对于愈加依赖应用面向客户实现企业价值，提升工作效率的当今企业来说，这种问题越来越无法忍受。...
数据集市
背景信息 数据集市是对某个业务分类制定细化的业务主题，并通过主题域，基于不同分析视角对目标集市中的数据进行主题划分，最终面向业务应用统计分析数据。例如，运营平台数据集市。创建数据集市 进入 数据集市。登录 DataWorks控制台，...
备份大小
与数据大小的关系 备份大小可能比数据量大，也可能比数据量小。云盘实例采用快照备份。快照备份的大小可能远大于数据的大小。云盘实例备份免费额度为实例存储容量的200%，本地盘实例备份免费额度为实例存储容量的50%。说明 计算快照备份...
规范定义最佳实践
在Dataphin中，项目可以归属至数据板块以实现规范建模功能，同一个数据板块中可能包含多个不同的项目，所以数据板块与项目的关系为1:N。主题域 对某个主题分析后确定的主题边界。例如，商品域、交易域、会员域等。业务过程 业务过程即企业...
规范定义最佳实践
在Dataphin中，项目可以归属至数据板块以实现规范建模功能，同一个数据板块中可能包含多个不同的项目，所以数据板块与项目的关系为1:N。主题域 对某个主题分析后确定的主题边界。例如，商品域、交易域、会员域等。业务过程 业务过程即企业...
数仓构建流程
本文为您介绍如何基于阿里巴巴OneData方法论最佳实践，使用Dataphin助力企业数据中台的建设与管理，快速构建标准、规范的数据仓库。数仓构建流程 下图为使用Dataphin构建数据仓库的基本流程。基本概念 在正式学习本教程之前，您需要了解...
MaxCompute表数据
说明 字段热度：统计数据为前一天该字段在SQL中参与join的次数，次数按比例转换为星级，热度最高为5星，最小为0星。关联指标：展示字段关联的模型指标。如需新建或更新关联关系，请进入维度建模，在目标表的编辑页面中，通过字段管理来维护...
什么是Dataphin
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
2020年
ST_Intersects 2020年9月 新增ST_Contains函数，用于判断栅格数据与栅格数据，栅格数据与几何数据是否是包含关系。ST_Contains 2020年9月 新增ST_Within函数，用于判断网格数据与网格数据，网格数据与几何数据是否是被包含关系。ST_Within ...
基本概念
数据资产：数据资源平台中存在大量的数据表、标签、API等各类数据资产，数据管理者通过数据汇聚、数据治理、数据分析后，需要对整个平台数据进行统一管控，了解平台的核心数据资产，提供对应的数据资产管理规范。统一服务 应用：是调用API...
客户案例
因此，报表平台中存在着较多的多维度的数据关联查询，以及大数据的分组汇总查询，同时也存在一些统计学上的专业函数计算。而广告业务领域目前比较流行的 ROLAP、MOLAP 的分析型数据查询方案 SQL 能力都不够友好。因此我们需要基于其提供的 ...
2020年
ST_Intersects 新增ST_Contains函数，用于判断栅格数据与栅格数据，栅格数据与几何数据是否是包含关系。ST_Contains 新增ST_Within函数，用于判断网格数据与网格数据，网格数据与几何数据是否是被包含关系。ST_Within 矢量数据类型快速显示...
MapReduce
Key值和Reduce Worker是多对一的关系，具有相同Key的数据会被发送给同一个Reduce Worker，单个Reduce Worker有可能会接收到多个Key值的数据。在进入Reduce阶段之前，MapReduce框架会对数据按照Key值排序，使得具有相同Key的数据彼此相邻。...
修饰词
修饰词是基于选择的数据域创建的，是对数据域中的数据不同维度的修饰，用来限定统计数据的业务范围。例如，统计上海区域生鲜门店的销售金额，上海区域和生鲜门店就是对业务范围的限定修饰。前提条件 已创建数据域，用于确定修饰词所属的...
SQL查询介绍
您可以通过GROUP BY语句对结果集按照指定条件进行分组，并且可以使用聚合函数进行数据的统计与计算。更多信息，请参见 GROUP BY分组查询 和 聚合函数。时序模型使用步骤说明 步骤 操作 说明 1 为表创建映射关系 使用SQL查询数据前，您需要...
核心概念
在Dataphin中，项目可以归属至数据板块以实现规范建模功能，同一个数据板块中可能包含多个不同的项目，所以数据板块与项目的关系为1:N。例如，某企业的业务涉及零售和文娱，且业务数据相互独立，则零售和文娱就可以划分为两个数据板块。...
时空引擎版本发布记录
修复由于栅格数据带有 NAN 和 INF 等数据，在导入和统计值会出错的问题。4.3 新特性 ST_PixelAsPolygon：将栅格像素转换为Polygon对象。ST_PixelAsPolygons：将栅格像素转换为Polygon对象集合。ST_PixelAsPoint：将栅格像素转换为基于点...
表设计最佳实践
MaxCompute表数据更新与删除操作 MaxCompute实现关系型数据库所支持的Delete、Update、Merge SQL的示例如下：准备表/上日全量表。table1(key1 STRING,key2 STRING,col1 STRING,col2 STRING);今日增量表。table2(key1 STRING,key2 STRING,...
列存索引如何实现高效数据过滤
列存索引中TopK算子的实现 一文中介绍了PolarDB IMCI如何利用统计信息在运行时进行剪枝，以提高TopK算法的查询性能。本文将进一步全面介绍PolarDB IMCI的查询剪枝（pruning or data skipping）技术。背景与作用 在HTAP场景中，PolarDB IMCI...
时空数据库版本发布记录
本文介绍PolarDB PostgreSQL版时空数据库（Ganos）的版本更新说明。6.X 6.3 类别 说明 新增特性 Trajectory SQL 新增 ST_InsertAttr 函数，支持为轨迹增加新的属性。GeomGrid SQL 新增 ST_Degeneralize 函数，支持将低层级网格分解成高层级...
时空数据库版本发布记录
本文介绍PolarDB PostgreSQL版（兼容Oracle）时空数据库（Ganos）的版本更新说明。6.X 6.3 类别 说明 新增特性 Trajectory SQL 新增 ST_InsertAttr 函数，支持为轨迹增加新的属性。GeomGrid SQL 新增 ST_Degeneralize 函数，支持将低层级...
创建逻辑模型：维度表
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据建模，在下拉框中选择对应工作空间后单击 进入数据建模。在 智能数据建模 页面的顶部菜单栏，单击 维度建模，进入 维度建模 页面。创建维度表。在 维度建模 页面，鼠标悬停至 ...
深度解析Lindorm搜索索引（SearchIndex）特性
索引是加速数据库查询的重要手段，Lindorm除了提供高性能的二级索引外，同时支持搜索索引(SearchIndex)，主要面向复杂的多维查询场景，并能够覆盖模糊查询、聚合分析、排序、分页等场景。本文主要介绍SearchIndex的技术原理和核心能力。...
文档修订记录
QueryPublicModelEngine 2023.10.20 新增功能 上传与下载 DataWorks的上传与下载模块，提供了便捷的数据上传功能，支持将多种来源（例如，本地文件、OSS文件）的数据上传至MaxCompute大数据引擎中进行分析处理及相关管理操作，致力于为您...
CREATE STATISTICS
CREATE STATISTICS 用于创建一个新的扩展统计对象，追踪指定表、外部表或物化视图的数据。简介 CREATE STATISTICS 将创建一个新的扩展统计对象，追踪指定表、外部表或物化视图的数据。该统计对象将在当前数据库中创建，被发出该命令的用户...
数据库画像
性能 统计数据库的QPS、TPS、CPU使用率和负载信息。容量 提供Schema容量排序和对象类型容量占比（表，索引，LOB字段）。Oracle特性 提供一级、二级数据库语法特性的详细展示，帮助用户全面了解自己的源数据库使用了哪些特性。特性以左树右...
风险识别管理（新版）
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标，选择 全部产品>数据治理>数据保护伞。单击 立即体验，进入数据保护伞。进入 风险识别管理。在 数据...
查询治理
数据库自治服务DAS（Database Autonomy Service）通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理建议和数据导出功能。前提条件 目标...
查询治理
数据库自治服务DAS（Database Autonomy Service）为RDS PostgreSQL提供查询治理功能，通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理...
查询治理
数据库自治服务DAS（Database Autonomy Service）通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理建议和数据导出功能。前提条件 目标...
查询治理
数据库自治服务DAS（Database Autonomy Service）通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理建议和数据导出功能。前提条件 目标...
区域统计
创建流任务，通过统计函数 count、关系函数 ST_Contains 和时间窗口函数 TUMBLE 对数据进行过滤，并将计算结果写入结果表cresult。示例代码如下：CREATE FJOB fenceWs(LOAD MODULE ganos;CREATE TABLE logCarWithTs(`uID` STRING,`x` ...
查询治理
数据库自治服务DAS（Database Autonomy Service）为RDS MySQL提供查询治理功能，通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理建议和...
实时同步任务延迟解决方案
用于帮助您判断数据同步延迟的瓶颈方，当数据同步发生延迟时，指标数据较大的一般为瓶颈方。确认造成延迟问题的系统是否有异常 当确认了延迟瓶颈是在同步任务的读端还是写端后，可在上述任务 运行详情 中切换至 日志 页签，使用 Error/...
查询治理
数据库自治服务DAS（Database Autonomy Service）通过离线数据分析技术，在每天凌晨1点将全部实例在昨天产生的慢SQL进行统计分析和自动打标，帮助您对慢SQL进行自动分类和划分治理优先级，同时提供治理建议和数据导出功能。前提条件 目标...
新功能发布记录
逻辑数仓 数据归档新增归档至 AnalyticDB MySQL版 链路 迭代 定时将大表的数据归档至OSS、Lindorm、AnalyticDB MySQL版 数据库，解决了由于线上数据量增多影响表的查询性能与业务运作的问题。数据归档至AnalyticDB MySQL 3.0 03月 功能名称...
确定需求
在基于Dataphin构建与管理企业数据中台之前，首先需要确定数仓构建的目标与需求，进行全面的业务调研。您需要了解真实的业务需求是什么，以及确定整个业务系统能解决什么问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，...
Cost-based SQL诊断引擎
和其它公司一样，在阿里巴巴业务场景下，大部分业务跟数据库有着非常紧密的关系，数据库一个微小的抖动都有可能对业务造成非常大的影响，如何让数据库更稳定，得到持续优化一直都是非常重要的诉求。数据库环境下的业务优化，通常涉及三个...
- 产品推荐
- 这些文档可能帮助您