DataWorks On MaxCompute使用说明
二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
DataWorks On EMR使用说明
开始使用 一、数据建模与开发 模块 说明 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数...
数据开发功能索引
本文为您介绍DataWorks数据开发（DataStudio）界面的整体布局，以及进行开发操作的主界面（业务流程和节点）中各组件、按钮的功能作用，方便您快速了解及使用数据开发模块。进入数据开发 登录 DataWorks控制台，单击左侧导航栏的 数据建模...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级...自主挖掘数据的业务价值：通过画像分析、业务模型编辑器，从业务视角更直观地探索数据，更高效的从数据中获取业务价值，并不断丰富客户的标签等数据资产。
数仓规划概述
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在您开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。功能介绍 数仓规划包括逻辑空间与物理空间...
什么是云数据库Redis版
数据持久化不依赖传统磁盘，保证每个操作持久化的同时提供近乎Redis社区版的吞吐和延时，极大提升业务数据可靠性。磁盘型：基于ESSD与SSD研发，兼容Redis核心数据结构与接口，成本最低为Redis社区版的15%，性能约为Redis社区版的60%。可...
概述
对接实时计算，用于业务数据驱动的智能运营、IoT、监控大屏等数据应用。数据同步，比如更新cache，同步到搜索引擎、数仓、冷存储等。LindormStreams支持实时获取HBase表的数据变更，您可以基于LindormStreams的这个功能构建自己的数据应用...
步骤五：规范建模
在Dataphin中采用OneModel方法论将数据建模过程分为以下四层：主题域建模：在数据中台,主题对应一个宏观的分析领域，比如销售分析就是分析"销售"这个主题。联系较为紧密的主题的集合就是主题域。每一个行业都可以拆分为有多个（10个左右...
步骤五：规范建模
在Dataphin中采用OneModel方法论将数据建模过程分为以下四层：主题域建模：在数据中台,主题对应一个宏观的分析领域，比如销售分析就是分析"销售"这个主题。联系较为紧密的主题的集合就是主题域。每一个行业都可以拆分为有多个（10个左右...
数据仓库研发规范概述
数据仓库研发规范旨在为广大数据研发者、管理者提供规范化的研发流程指导方法，目的是简化、规范日常工作流程，提高工作效率，减少无效与冗余工作，赋能企业、政府更强大的数据掌控力来应对海量增长的业务数据，从而释放更多人力与财力专注...
数据集市
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据建模，在下拉框中选择对应工作空间后单击 进入数据建模。在 数据建模 页面的顶部菜单栏，单击 数仓规划，默认进入 数仓分层 页面。在 数仓规划 页面的左侧导航栏，单击 应用层>...
数据风险点监控
在线数据风险点监控 在线业务系统的数据生成过程中必须确保数据质量，根据业务规则对数据进行监控。说明 MaxCompute本身未提供相应的监控工具，您可以借助DataWorks进行监控。详情请参见 概述。您可以对数据库表的记录进行规则校验，制定...
适用场景
若当前数据库中任意一个维度出现瓶颈，或出于对业务不断高速发展提前规划数据库选型的考虑，当下选用 PolarDB-X 1.0 构建分布式数据库，可有效降低后期数据库的扩展及运维压力。在业务发展初期，选择单机数据库还是分布式数据库，需要考量...
文档更新动态（2022年）
更新说明 数据服务概述 2022年02月18日 新增Dataphin出网IP地址 在连通业务数据库与Dataphin间的网络时，您需要将不同网络环境下Dataphin的出网IP地址添加至业务数据库的白名单中。新增说明 Dataphin出网IP地址 2022年02月18日 新增数据源...
功能更新动态（2022年之前）
2021年08月24日 华南1（深圳）2021年08月26日 华东2（上海）Dataphin支持通用IP地址 为了提升网络连通配置的效率，Dataphin新增在VPC网络环境下各地域通用的IP地址，您可以将通用的IP地址添加至业务数据库的白名单中以实现网络打通。...
建表并上传数据
背景信息 表bank_data用于存储业务数据，表result_table用于存储数据分析后产生的结果。创建表bank_data 进入 数据开发 页面。登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作...
管理数据库（仅 MySQL）
单击左侧导航栏中的 数据库管理，在 数据库管理 页面右上角，支持搜索数据库名称、登录数据库和新建数据库，详情参见 登录数据库、创建数据库（仅 MySQL）。您可在数据库列表中查看 数据库名称、字符集、状态、已使用磁盘、绑定账号 等信息...
数仓规划概述
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在您开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。功能介绍 数仓规划包括逻辑空间与物理空间...
业务切换流程
为最大化地减少数据迁移对业务的影响，您可以参照本文的流程执行业务切换并建立回退方案。前提条件 已配置数据迁移任务，且数据迁移任务处于 迁移中 或 已完成 状态，配置案例请参见 迁移方案概览。注意事项 由于执行业务切换操作需要停止...
业务切换流程
为最大化地减少数据迁移对业务的影响，您可以参照本文的流程执行业务切换并建立回退方案。前提条件 已配置数据迁移任务，且数据迁移任务处于 迁移中 或 已完成 状态，配置案例请参见 迁移方案概览。注意事项 由于执行业务切换操作需要停止...
管理数据源
查看数据源 创建数据源后，您可以在数据源列表查看所有已创建数据源的基本信息、详情和网络连接等信息，也可以根据数据源类型进行筛选、根据数据源的创建时间进行排序，以及模糊搜索指定数据源。登录 OceanBase 管理控制台。在左侧导航栏，...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
数据服务权限列表
数据服务总览、个人工作台、运维管理和平台管理模块中四种角色的具体权限说明：数据服务总览 个人工作台 运维管理 平台管理 数据服务总览 权限点 服务项目管理员 开发用户 业务应用用户 运维用户 查看API服务列表 Y Y Y Y 查看API文档 Y Y ...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
入门实践
空间管理员根据企业的实际情况和数据标准模板中的格式，为实际的业务场景中涉及的相关实体定义数据标准。进入DataWorks数据建模页面。进入数据开发页面。登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择...
业务指标趋势
可在单击业务指标趋势组件时抛出临时变量，默认抛出数据中的所有自定义列字段，例如 value 和 base。具体配置请参见 组件交互配置。蓝图交互 单击页面左上角的 图标，进入 蓝图 页面。在 图层节点 页签下，添加当前组件至主画布中。查看...
数据可视化概览
实时运营监控 通过DMS数据工厂把业务数据实时同步到ADB或RDS分析库，再基于分析库之上构建可视化，可实时观察运营状态，衔接各个环节流程，对比检测异常情况，处理关键环节问题。提供透视驱动与图表驱动两种图表配置模式，满足不同的应用...
上传数据
业务数据：在业务数据页签内，可通过新建数据集上传业务数据。上传CSV数据 重要 CSV文件数据格式为不带BOM的UTF-8编码格式，CSV文件数据内容需要使用英文逗号作为分隔符，如当字段内出现分隔符（,）时，需要使用转义符（"）包裹该字段，...
上传数据
业务数据：在业务数据页签内，可通过新建数据集上传业务数据。上传CSV数据 注意 CSV文件数据格式为不带BOM的UTF-8编码格式，CSV文件数据内容需要使用英文逗号作为分隔符，如当字段内出现分隔符（,）时，需要使用转义符（"）包裹该字段，...
写入数据
返回的响应内容和指定 details 时相同，只是此时通过 errors 字段返回的将是该一批次数据中所有的失败数据，未被返回的数据可以认为写入成功。名称 数据类型 描述 success Integer 写入成功的数据点数。failed Integer 未写入的数据点数。...
创建业务流程
DataWorks的 业务流程 开发结构满足根据业务视角来组织数据开发任务的需求，也提供了 周期业务流程 和 手动业务流程 两种，以满足需要周期性调度和无需周期性调度手动触发运行的场景。本文为您介绍如何创建、设计、提交和查看业务流程，...
基于MaxCompute实现拉链表
业务日期当日 ods_order_di 表中，新增的所有数据插入 dwd_order 表中，状态为有效数据。以业务日期10.5日拉链表数据加载为例，如下图所示，具体步骤如下：原始数据：在10.4日的拉链表记录中，存在一条订单ID为“210001”，其状态为“创建...
冷数据归档常见问题
为什么PolarDB控制台导航栏中没有冷数据归档这个菜单？申请开启冷数据归档功能成功后，会有一定的延迟，等待几分钟刷新页面后即可出现冷数据归档菜单。冷数据文件的格式是什么？目前支持CSV、IBD 和ORC格式。如何判断当前表或分区是否归档...
数据库导出
当您需要进行数据库备份、导出数据库表进行数据分析等操作，您可使用 数据管理DMS 的数据导出功能，该功能可通过提交工单的方式导出数据库。前提条件 数据库类型如下：MySQL系列：自建MySQL、RDS MySQL、PolarDB MySQL版、AnalyticDB ...
数据开发：开发者
说明 目前DataWorks的节点分为数据同步类型节点与计算类型节点两大类，实际开发过程中，您通常需要先通过离线同步任务将业务数据库中的数据同步至数仓中，再通过DataWorks计算节点对数仓中的表数据进行清洗加工。创建节点。您可通过如下两...
使用DataWorks
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。在 数据开发 页面，鼠标悬停至 图标，单击 新建业务流程。在 新建业务流程 对话框中，输入 业务名称 和 描述。单击 ...
通过DTS实现数据库的垂直拆分
双写方案 说明 可以实现业务的灰度切流，最大限度保证业务不受影响，但您需要先改造业务的应用程序，使应用程序的相关数据能够同时写入源和目标实例的数据库B中。配置源和目标实例的数据迁移任务，迁移对象选择为数据库B，配置案例请参见 ...
源为PolarDB-X的功能规范和约束说明
由于 PolarDB分布式版 自身不提供Binlog以及其他的一些限制，在业务设计、运维变更、数据质量以及业务开发时，会受到如下规范的约束，请您在实际使用中注意。概览 业务设计规范 数据库架构规范 运维变更规范 数据质量风险声明 业务开发的...
源为PolarDB-X的功能规范和约束说明
由于 PolarDB分布式版 自身不提供Binlog以及其他的一些限制，在业务设计、运维变更、数据质量以及业务开发时，会受到如下规范的约束，请您在实际使用中注意。概览 业务设计规范 数据库架构规范 运维变更规范 数据质量风险声明 业务开发的...
- 产品推荐
- 这些文档可能帮助您