用户角色和权限
负责业务板块数据的业务使用稳定性。数据负责人 当前没有实质性的操作权限。负责板块数据生产质量。项目角色 项目管理员 拥有管理项目及项目内的资源和成员的权限，同时拥有创建计算源和数据源等权限。但不具有创建业务板块的权限。开发者 ...
用户角色和权限
负责业务板块数据的业务使用稳定性。数据负责人 当前没有实质性的操作权限。负责板块数据生产质量。项目角色 项目管理员 拥有管理项目及项目内的资源和成员的权限，同时拥有创建计算源和数据源等权限。但不具有创建业务板块的权限。开发者 ...
构建数据仓库
方案优势：阿里巴巴大数据最佳实践，高性能、低成本、Serverless服务，免运维、全托管模式，让企业的大数据研发人员更聚焦在业务数据的开发、生产、治理。产品组合：MaxCompute+Flink+DataWorks。场景说明 用户数据来源丰富，包括来自云端...
新建事实逻辑表
Dataphin通过各个节点的调度依赖的配置结果，有序的运行业务流程中各个节点，保障业务数据有效、适时地产出。详情说明，请参见：配置逻辑表上游依赖。参数配置 参数配置是对代码中所用的变量进行赋值，从而支持节点调度时，参数变量可以...
新建事实逻辑表
Dataphin通过各个节点的调度依赖的配置结果，有序的运行业务流程中各个节点，保障业务数据有效、适时地产出。详情说明，请参见：配置逻辑表上游依赖。参数配置 参数配置是对代码中所用的变量进行赋值，从而支持节点调度时，参数变量可以...
Dataphin中业务板块、数据域和项目之间的关系
产品名称 Dataphin 产品模块 数据域 概述 本文描述Dataphin业务板块、数据域和项目之间的关系。问题描述 Dataphin业务板块、数据域和项目之间的关系是什么？问题原因 NA 解决方案 业务板块是逻辑空间的重要组成部分，是基于业务特征划分的...
确定需求
用户的整体业务架构，各个业务板块之间的联系和信息流动的流程。您需要梳理出整体的业务数据框架。各个已有的业务板块的主要功能及获取的数据。本教程中以A公司的电商业务为例，梳理出业务数据框架如下图所示。A公司的电商业务板块分为招商...
确定需求
用户的整体业务架构，各个业务板块之间的联系和信息流动的流程。您需要梳理出整体的业务数据框架。各个已有的业务板块的主要功能及获取的数据。本教程中以A公司的电商业务为例，梳理出业务数据框架如下图所示。A公司的电商业务板块分为招商...
核心概念
本文为您介绍Dataphin中，业务板块、数据域、项目、维度、业务过程、维度逻辑表、事实逻辑表、原子指标等基本概念。数据板块 数据板块是逻辑空间的重要组成部分，是基于业务特征划分的命名空间。当数据的业务含义存在较大差异时，您可以...
规范定义最佳实践
基于Dataphin建模理论和业务需求，明确并规范...定义指标 业务数据 数据板块 电商业务 主题域 交易域 维度 商品种类 业务过程 下单购买 业务限定 商品种类为干果类 时间周期 最近1天 原子指标 销售总额 派生指标 最近1天干果类商品销售总额
规范定义最佳实践
基于Dataphin建模理论和业务需求，明确并规范...定义指标 业务数据 数据板块 电商业务 主题域 交易域 维度 商品种类 业务过程 下单购买 业务限定 商品种类为干果类 时间周期 最近1天 原子指标 销售总额 派生指标 最近1天干果类商品销售总额
项目分配与安全
在为企业级大数据平台创建项目时，建议您对ODS层、DWD及DWS层的数据按照业务板块的粒度建立项目，对于ADS层的数据，按照应用的粒度建立项目。项目分配 在本教程中，建议参考下图建立您的MaxCompute项目，图中的每一个方块代表一个项目。...
项目分配与安全
在为企业级大数据平台创建项目时，建议您对ODS层、DWD及DWS层的数据按照业务板块的粒度建立项目，对于ADS层的数据，按照应用的粒度建立项目。项目分配 在本教程中，建议参考下图建立您的MaxCompute项目，图中的每一个方块代表一个项目。...
步骤二：规划数仓
数据源：业务数据中读取原始数据和写入数据仓库过程中的数据。步骤一：创建数据板块 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 新建数据板块 对话框。在 生产开发类型 步骤中选择 Basic模式 并单击 下一步。在 板块...
步骤二：规划数仓
数据源：业务数据中读取原始数据和写入数据仓库过程中的数据。步骤一：创建数据板块 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 新建数据板块 对话框。在 生产开发类型 步骤中选择 Basic模式 并单击 下一步。在 板块...
创建主题域
主题域由数据域升级而来，用于存放同一数据板块内不同意义的指标，如商品域、交易域、会员域等。...后续步骤 完成数据板块的主题域创建后，即可为该数据板块创建业务实体（业务对象或业务活动），详情请参见 创建并管理业务实体。
创建主题域
主题域由数据域升级而来，用于存放同一数据板块内不同意义的指标，如商品域、交易域、会员域等。...后续步骤 完成数据板块的主题域创建后，即可为该数据板块创建业务实体（业务对象或业务活动），详情请参见 创建并管理业务实体。
什么是Dataphin
在您开始数据开发前，需要完成数据仓库的规划，包括定义业务板块、数据域、项目、数据源、计算源和统计周期。数仓规划 数据引入 基于全局设计定义的项目空间与物理数据源，将各业务系统、各类型的数据抽取加载至目标数据库。这个过程可以...
功能更新动态（2022年之前）
数据源 业务板块 创建业务板块时，支持设定板块管理员，帮助您更好地管理业务板块。业务板块 发布管理 新增数据集成、实时计算任务的发布管理。管理发布任务 运维调度 全局运维中新增实时任务和实时实例。概述 监控报警 新增实时报警记录和...
明细粒度事实层（DWD）
明细粒度事实层（DWD）规范 通常您需要遵照的命名规范为：dwd_{业务板块/pub}_{数据域缩写}_{业务过程缩写}[_{自定义表命名标签缩写}]_{单分区增量全量标识}，pub表示数据包括多个业务板块的数据。单分区增量全量标识通常为：i表示增量，f...
明细粒度事实层（DWD）
明细粒度事实层（DWD）规范 通常您需要遵照的命名规范为：dwd_{业务板块/pub}_{数据域缩写}_{业务过程缩写}[_{自定义表命名标签缩写}]_{单分区增量全量标识}，pub表示数据包括多个业务板块的数据。单分区增量全量标识通常为：i表示增量，f...
创建并管理业务实体
业务实体包含业务对象和业务活动：业务对象即参与业务的主体和客体，通常情况下业务对象是实际存在、不因事件发生而存在的对象。例如客户、员工、产品等具体的业务对象；地域、组织关系和产品类目等抽象的业务对象。业务活动是一个或者多个...
创建并管理业务实体
业务实体包含业务对象和业务活动：业务对象即参与业务的主体和客体，通常情况下业务对象是实际存在、不因事件发生而存在的对象。例如客户、员工、产品等具体的业务对象；地域、组织关系和产品类目等抽象的业务对象。业务活动是一个或者多个...
使用创建反向任务功能
前提条件 已创建存储空间大于业务数据库已使用的灾备数据库，建议灾备数据比业务数据大10%。已在业务数据库和灾备数据库中创建用于数据同步的账号。权限要求，请参见 RDS MySQL实例间的同步 或 RDS SQL Server间的同步。重要 灾备数据库的...
创建元数据
列字段配置 新建列字段 字段名称：配置为业务数据中实际的字段名称，且后续需要基于该字段创建服务单元。支持多层嵌套，使用点（.）分隔。字段类型：根据业务数据的字段类型选择对应的字段类型。支持选择的字段类型包括Double、Float、...
逻辑结构说明
说明 在Dataphin 3.3版本，维度更名为业务对象，业务过程更名为业务活动，数据域更名为主题域，业务板块更名为数据板块。各层中核心概念的详细内容请参见下表。核心概念 简要含义 数据板块 数据板块定义了数据仓库的多种命名空间，是一种...
DataV读取数据源超时
问题原因 查询超时的原因如下：使用SQL查询的业务数据表数量太大。API接口内部业务调用链路较长。解决方案 执行以下操作，通过优化查询时间的方式进行解决：使用SQL查询的业务数据表数量太大 针对查询条件所使用的字段添加索引，减少扫描行...
产品概述
可视化的数据资产：系统化构建业务数据资产大图，从数据视角还原业务系统、提取业务数据，快速感知业务关键环节及数据。数据使用简单可依赖：通过主题式数据查询服务，您可以快速查询和访问研发构建的数据逻辑表，简化约80%的查询代码。...
资产全景
资产全景介绍 资产全景页面仅为您展示生产环境中的元数据及加工所得的应用数据，包括以下三种模式：全局模式：以星球形式为您展示存储数据量大于0的业务板块及其概要信息。流动模式：展示数据的流入、整合与输出过程，更直观的体现数据加工...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
资产全景
资产全景介绍 资产全景页面仅为您展示生产环境中的元数据及加工所得的应用数据，包括以下三种模式：全局模式：以星球形式为您展示存储数据量大于0的业务板块及其概要信息。流动模式：展示数据的流入、整合与输出过程，更直观的体现数据加工...
业务分类
如您所在的集团或公司业务复杂且较为庞大时，可创建业务分类，对数据进行业务区分，便于对业务数据进行更加方便的管理。本文为您介绍如何创建业务分类并关联数据域及管理数据集市。新建业务分类 进入智能数据建模页面。登录 DataWorks控制...
创建单物理表服务单元
单物理表服务单元用于对业务数据源的单个物理表进行元数据配置。后续您可以基于该单物理表服务单元开发访问该物理表数据的API。本文为您介绍如何创建单物理表服务单元。前提条件 已完成服务单元分组的创建。具体操作，请参见 创建服务项目...
管理动态脱敏白名单
数据板块：选择数据表的业务板块。选中 全部，即选中所有的业务板块。选中 枚举 后，需配置业务板块，支持多选。选中 自定义 后，请输入正则表达式匹配业务板块，例如：您需要匹配所有名称中带有test的业务板块，则正则表达式定义为.*test....
管理动态脱敏白名单
数据板块：选择数据表的业务板块。选中 全部，即选中所有的业务板块。选中 枚举 后，需配置业务板块，支持多选。选中 自定义 后，请输入正则表达式匹配业务板块，例如：您需要匹配所有名称中带有test的业务板块，则正则表达式定义为.*test....
数据源读取时间超时的优化思路
使用SQL查询的业务数据表数量太大，查询超时 针对查询条件所使用的字段添加索引，减少扫描行数。在数据库中增加定时任务，定时计算所需要的业务指标并更新结果表。DataV组件直接查询结果表的数据，不需要在每次组件获取数据时，再次执行SQL...
数据源读取时间超时的优化思路
使用SQL查询的业务数据表数量太大，查询超时 针对查询条件所使用的字段添加索引，减少扫描行数。在数据库中增加定时任务，定时计算所需要的业务指标并更新结果表。DataV组件直接查询结果表的数据，不需要在每次组件获取数据时，再次执行SQL...
准备数据源和计算源
重要 确定业务数据源类型后，在Dataphin创建对应类型的数据源之前，您需确保数据源与Dataphin间网络连通，以实现Dataphin读取该数据源的原始数据及向该数据源写入Dataphin加工后的数据。详情请参见 网络连通解决方案。准备计算源 在创建...
准备数据源和计算源
重要 确定业务数据源类型后，在Dataphin创建对应类型的数据源之前，您需确保数据源与Dataphin间网络连通，以实现Dataphin读取该数据源的原始数据及向该数据源写入Dataphin加工后的数据。详情请参见 网络连通解决方案。准备计算源 在创建...
分析业务过程
用户在业务系统中，通过埋点或日常积累的方式，获取了充足的业务数据。为梳理数据之间的逻辑关系和流向，需要理解用户的业务过程及数据系统。您可以采用过程分析法，列出整个业务过程涉及的每个环节，包括技术、数据、系统环境等。分析完...
- 产品推荐
- 这些文档可能帮助您