基本概念
数据服务 名词 描述 数据源 数据服务是通过访问数据源的数据进行数据同步备份、数据查询分析、数据配置等操作。数据服务数据源包括设备数据源和API数据源。设备数据源 设备数据源包含了设备上报的自定义Topic数据和物模型数据。API数据源 ...
规范定义最佳实践
基于Dataphin建模理论和业务需求，明确并规范定义统计指标，以便设计出易于业务使用的数据仓库。背景信息 规范定义是指以维度建模作为理论基础，构建总线矩阵，划分并定义主题域、业务过程、维度、原子指标、统计周期和派生指标。在您开始...
规范定义最佳实践
基于Dataphin建模理论和业务需求，明确并规范定义统计指标，以便设计出易于业务使用的数据仓库。背景信息 规范定义是指以维度建模作为理论基础，构建总线矩阵，划分并定义主题域、业务过程、维度、原子指标、统计周期和派生指标。在您开始...
服务等级说明
（2）任何阿里云所属设备以外的网络、设备故障或配置调整引起的；（3）客户的应用程序或数据信息受到黑客攻击而引起的；（4）客户维护不当或保密不当致使数据、口令、密码等丢失或泄漏所引起的；（5）客户的疏忽或由客户授权的操作所引起的...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
概述
业务挑战 大部分阿里云用户会将阿里云关系型数据库RDS、PolarDB for MySQL、MongoDB或者云服务器ECS自建数据库作为业务系统数据库，随着业务数据的增长，业务数据库存储的数据也越来越多。但RDS、PolarDB for MySQL、MongoDB或者ECS自建...
数据字典
在数仓开发和数据分析过程中，当业务中有常量数据或者业务数据可以划分为业务事实表和业务维度表时，您可以通过使用数据字典来替代维度表实现，避免使用Join语句，从而提升查询效率。注意事项 以下版本的 云数据库ClickHouse 集群不支持...
名词解释
另一方面是在⼀个数据中心发⽣故障或灾难的情况下，其他数据中心可以正常运行并对关键业务或全部业务实现接管，实现用户的故障无感知。两地三中心 即生产数据中心、同城灾备中心、异地灾备中心建设方案。这种模式下，两个城市的三个数据...
数据域
数据域是联系较为紧密的数据主题的集合，通常是根据业务类别、数据来源、数据用途等多个维度，对企业的业务数据进行的区域划分，将同类型数据存放在一起，便于您快速查找需要的内容。不同使用目的数据，分类标准不同。例如，电商行业通常...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
补数据任务概述
Dataphin补数据任务可以对历史数据进行补数，将数据写入至对应时间分区。代码中若使用调度参数，则该参数将根据补数据时选择的业务日期自动替换为具体值，结合业务代码将对应时间数据写入对应分区。帮助您对数据中缺失、错误、重复或不完整...
补数据任务概述
Dataphin补数据任务可以对历史数据进行补数，将数据写入至对应时间分区。代码中若使用调度参数，则该参数将根据补数据时选择的业务日期自动替换为具体值，结合业务代码将对应时间数据写入对应分区。帮助您对数据中缺失、错误、重复或不完整...
常见错误码及排查方法
本文介绍DTS的常见错误码、报错原因及排查方法，帮助您进行初步的报错排查。文中提及的报错示例仅供参考，实际遇到的报错可能不完全一样。错误码 报错说明 报错示例 可能的解决方法 DTS-51009 DTS写入模块读取DTS缓存模块时，显示连接超时...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
基础版
基础版和高可用版的对比拓扑图如下所示：功能 基础版支持IP白名单、监控、数据迁移等基本功能：管理用户账号和数据库 数据迁移 云实例监控 适用场景 互联网基础资源监控 容器监控 业务运营监控分析 物联网设备远程实时监控 工业安全生产...
上传数据
本文介绍在我的数据页面中...上传业务数据 单击 业务数据 页签右上角的 新建数据集 按钮，在新建数据集合对话框中，输入 数据集合名称 和 数据集合分组，单击 OK，新建数据集合。完成创建后，您可以在 我的数据 页面，查看创建后的空间数据。
上传数据
本文介绍在我的数据页面中...上传业务数据 单击 业务数据 页签右上角的 新建数据集 按钮，在新建数据集合对话框中，输入 数据集合名称 和 数据集合分组，单击 OK，新建数据集合。完成创建后，您可以在 我的数据 页面，查看创建后的空间数据。
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
图扑案例
为适应日趋复杂化多样化的终端设备、边缘设备、传感器以及第三方系统数据源采集、上报的异构数据，如图3所示，阿里 云原生多模数据库 Lindorm 在云端单实例融合了宽表、索引、时序等多种数据引擎能力，通过阿里云DTS/DMS或第三方开源数据...
数据可视化概览
背景信息 DMS为您提供了数据库数据管理的能力，同时通过SQL Console控制台为您提供以表格形式查询数据的方式，但对于需要通过分析数据去发现业务特性，比如分析趋势、增长对比等场景，单纯的表格无法满足需求，需要把数据可视化才可以支撑...
无感数据集成（Zero-ETL）
AnalyticDB for MySQL 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月22号到6月30。公测地域 华北2（北京）、华东1（杭州）、华东2（上海）、...
新建补数据任务
对于经常补数据的节点，但补数据时间及补数据业务日期不确定的场景，您可以通过创建手动运行的补数据任务进行补数据。本文将为您介绍如何新建补数据任务。操作步骤 请参见 补数据任务页面入口，进入 补数据任务 页面。在 补数据任务 页面，...
新建补数据任务
对于经常补数据的节点，但补数据时间及补数据业务日期不确定的场景，您可以通过创建手动运行的补数据任务进行补数据。本文将为您介绍如何新建补数据任务。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 新建补...
需求分析
步骤一：了解已有业务数据 实际操作前，请先了解该项目背景下企业已有的业务数据及其数据格式，以及业务背景分析需要的目标用户画像基本结构。OSS原始日志数据分析（user_log.txt）以下为OSS中存储的 user_log.txt 文件原始数据。remote_...
需求分析
步骤一：了解已有业务数据 实际操作前，请先了解该项目背景下企业已有的业务数据及其数据格式，以及业务背景分析需要的目标用户画像基本结构。OSS原始日志数据分析（user_log.txt）以下为OSS中存储的 user_log.txt 文件原始数据。remote_...
文档更新动态（2022年）
新功能 安全设置 2022年05月08日 新增支持ClickHouse数据源 新增支持ClickHouse数据源，您可以将ClickHouse数据源业务数据引入至Dataphin或将Dataphin数据导出至ClickHouse。新功能 创建ClickHouse数据源 2022年05月08日 脚本实例和逻辑表...
产品概述
产品描述 Dataphin是集产品、技术、方法论于一体的智能大数据平台建设引擎，为您提供数据引入、规范定义、建模研发、资产管理、数据服务等全链路智能数据建设及治理服务。功能 描述 Dataphin全托管 全托管又称公共云多租户模式，只需购买...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
无感集成（Zero-ETL）
云原生数据仓库 AnalyticDB PostgreSQL 版 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月1日至6月30日。公测地域 华东2（上海）。方案概述 ...
核心概念
本文为您介绍Dataphin中，业务板块、数据域、项目、维度、业务过程、维度逻辑表、事实逻辑表、原子指标等基本概念。数据板块 数据板块是逻辑空间的重要组成部分，是基于业务特征划分的命名空间。当数据的业务含义存在较大差异时，您可以...
数据湖管理FAQ
本文汇总了数据湖管理相关的常见问题及解决方案。Lakehouse相关问题 什么是Lakehouse？Lakehouse数据入湖时，对线上RDS有压力吗？如何控制建仓的限流能力？Lakehouse工作负载为什么运行失败，又没有S park Log 日志可以看？元数据发现相关...
支持的云服务
基于MaxCompute的数据仓库能力，您可以与阿里云其他产品集成，实现可视化开发、数据存储、数据迁移、机器学习、业务决策等能力，构建满足实际业务需求的解决方案。本文为您介绍支持与MaxCompute集成的各阿里云产品信息。MaxCompute支持集成...
应用场景
场景一：业务实时搜索 当业务需要对海量数据进行多维度、实时的搜索时，关系型数据库显然力不从心。一个非常典型的例子就是对产品或者商品进行多维度搜索。此时，业务需要借助云搜 Zsearch（对标 Elaticsearch 的蚂蚁金服金融科技发布的...
创建概念模型：维度
维度是您观察业务状况的视角，您可在维度建模中规划并创建维度，后续创建维度表时进行关联，关联后即可通过不同维度分析呈现不同视角的业务数据状况。如果您希望在维度表中直接关联使用已有维度，则可参考本文创建。本文为您介绍如何创建并...
概述
随着业务的快速发展，企业数据呈几何倍增长，数据量庞大、复杂、各类数据间标准不一致，往往会出现数据难以管理的现象。DataWorks智能数据建模服务，将无序、杂乱、繁琐、庞大且难以管理的数据，进行结构化有序的管理。使企业中的数据产生...
Spark常见报错
本文汇总了 AnalyticDB for MySQL Spark作业常见的错误码、报错信息、报错原因和解决办法。您可以参考本文解决报错。报错概览 现象 错误码 报错信息 Spark访问JDBC数据源失败。JDBC_SOURCE_TABLE_NAME_DUPLICATE Both '$jdbcTableName' and...
异地应用双活切流
在⼀个数据中心发生故障或灾难的情况下，将流量切换到其他数据中心，其他数据中心可以正常运行并对关键业务或全部业务进行接管，实现故障灾难场景的业务快速恢复。本文将介绍在异地应用双活中如何创建切流任务并查看切流详情。前提条件 ...
基于MaxCompute实现拉链表
拉链表是数据仓库设计中用来处理数据变化的一种技术，它允许保存历史数据，记录一个事物从开始到当前状态的所有变化信息，可以反映任意时间点数据的状态。本文将为您介绍基于MaxCompute引擎在DataWorks上实现拉链表ETL的案例。前提条件 已...
功能简介
全景监控支持业务链路配置监控场景，通过自定义监控链路和告警消息配置，可快速实现从数据生产到业务应用的全链路编排及溯源，实现全局监控和问题快速锁定。全景监控提供丰富的告警信息输出方式，包括：钉钉消息、标准协议等方式，出现问题...
- 产品推荐
- 这些文档可能帮助您