案例介绍

本案例以某公司的零售事业群为例,为您介绍在构建数据中台时,如何规划业务模型中的业务板块、项目、数据域和指标等,帮助您更好的理解Dataphin的核心概念。案例场景简介 某公司是一家横跨多个行业领域的大型企业,以零售商超起家,逐步...

新增离线数据同步任务

数据同步支持离线数据同步任务的新建。离线数据同步任务支持的云计算资源类型为MySQL、Oracle、SQL Server、Hdfs、ftp、PostgreSQL、Hive、MaxCompute、AnalyticDB PostgreSQL、OSS。本文以同步MySQL数据源到MaxCompute目标端为例,介绍...

构建数据仓库

DataWorks具有通过可视化方式实现数据开发、治理全流程相关的...历史离线数据存放于MaxCompute,实时分析数据存放于交互式分析。基于阿里云Quick BI或第三方数据分析工具(如Tableau)执行数据可视化,以及构建各业务板块数据服务门户应用。

DataWorks模块使用说明

使用流程概览:参考文档:数据集成概述 数据建模与开发 子模块:数据建模 功能说明:数据建模是全链路数据治理的第一步,沉淀阿里巴巴数据中台建模方法论,从数仓规划、数据标准、维度建模、数据指标四个方面,以业务视角对业务的数据进行...

查看MySQL to MaxCompute离线同步任务监控

在左侧导航栏,单击 图标,将鼠标悬停在 离线数据同步 上,单击 图标。在同步任务列表,在“信用卡客户数据上云_d”任务操作列,单击 操作 列的 监控。在 离线同步实例 页面,默认展示最新运行的实例任务,在任务的 操作 列单击 详情,...

功能简介

面向数据资产管理者提供服务的统计分析、服务用量统计分析、热门数据统计分析能力,实现数据中台建设后半场“数据应用”的有效落地,支撑数据智能应用的高效开发。通用资源 提供了自定义函数和函数资源的能力,帮助用户在数据开发等过程中...

离线集成概述

数据管理DMS离线集成是一种低代码的数据开发工具,您可以组合各类任务节点,形成数据流,通过周期调度运行达到数据加工、数据同步的目的。支持的数据库类型 MySQL:RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB分布式版、AnalyticDB...

数据库管理

包括冷热分界线数据存活期间等。SQL语法请参见 ALTER DATABASE。Database的属性查询 在时序引擎查看一个已有Database的属性元数据。SQL语法请参见 DESCRIBE DATABASE。在管理控制上管理Database 在Lindorm实例的管理控制上也可以对...

名词解释

时间精度:时间线数据的写入时间精度——毫秒、秒、分钟、小时或者其他稳定时间频度。例如,每秒一个温度数据的采集频度,每 5 分钟一个CPU使用率的采集频度。数据组(Data Group):如果需要对比不同监测对象(由标签定义)的同一指标(由...

创建同步任务

本文为您介绍如何通过创建同步任务,导出MaxCompute数据至MySQL数据。前提条件 已通过RDS创建MySQL实例,获取RDS实例ID,并在RDS控制添加白名单。详情请参见 快速创建RDS MySQL实例 和 添加白名单。说明 如果是通过自定义资源组...

关系网络

数据中的type值为 group1 的节点,其样式使用 标签类别名 为 group1 的配置。links 设置连接线,包含以下字段:source:设置连接线的源节点,取值为源节点的name值。target:设置连接线的目标节点,取值为目标节点的name值。value:设置...

通用参考:切换资源组

登录 DataWorks控制,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框选择对应工作空间后单击 进入数据开发。修改数据集成资源组。离线同步任务 单个任务修改 在左侧导航栏,单击 数据开发,找到目标离线同步...

什么是数据资源平台

统一服务:是一款数据中台建设过程中的数据服务化组件,面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力;面向数据资产管理者提供服务的统计分析、服务用量统计分析能力,实现数据中台建设后...

数仓开发任务流

配置DTS数据迁移节点 配置离线数据集成节点 数据开发 显示任务流的数据开发节点:除数据集成节点之外的其他节点。数据开发节点,试运行和发布后的调度功能相同。任务类型介绍 配置DTS位点检查节点 表 数仓表可被其任务流引用并操作,您...

上线离线数据同步任务

新增离线数据同步任务后,需对任务进行上线操作,同步任务上线后会按照创建同步任务设置的调度周期执行。本文介绍如何上线离线数据同步任务。前提条件 已新增离线数据同步任务,具体操作,请参见 新增离线数据同步任务、批量新增离线数据...

购买指引

产品版本 入门版 标准版 高级版 版本选择建议 小型数据团队 小型数据团队 中型数据团队 功能规格 数据同步 离线数据同步 离线数据同步 实时数据同步 配置化数据同步 离线数据同步 实时数据同步 配置化数据同步 多引擎数据计算任务编排 ...

Dataphin支持的数据

资产质量概述 数据服务 数据服务(OneService)是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口,实现了数据的统一市场化管理,有效地降低数据开放门槛的同时,保障了数据开放的安全。数据服务概述 本文仅列举了...

受众与核心能力

同时,DataWorks持续打造符合企业级数仓、数据中台构建要求的功能模块,为企业业务的数字化转型提供支持。产品受众 从事数据开发、算法开发等岗位的技术人员 从事销售运营、商业智能分析等岗位的业务人员 从事数据安全与合规工作的管理人员...

查看任务日志

说明 若数据传输控制自动跳转至数据管理DMS控制,您可以在右下角的 单击,返回至旧版数据传输控制。根据实例类型,在左侧导航栏单击 数据同步。在页面顶部选择实例所属地域。找到目标实例,单击实例ID。在左侧导航栏,单击 任务...

概述

准备建模工具:数据建模DATABLAU支持线下客户端和线上Web(即DataWorks的控制页面)两类工具,建模前您需要参见 下载建模工具(DDM)章节下载并安装好建模的线下客户端,为后续的建模操作做好工具准备。(可选)熟悉操作流程与界面:入门...

飞线层

线层是3D平面中国地图的子组件,支持独立的样式和数据配置,包括飞线的速度、颜色、粗细以及起始点的经纬度等,能够以飞线动画的形式表现两个地理坐标点之间的过渡效果。本文介绍飞线层各配置项的含义。单击 子组件管理 下方的 飞线层,...

离线集成概述

线集成页面概述 离线集成页面主要由离线管道任务目录、工具栏、开发画布、配置及管理、控制组成。您可以在离线集成页面对离线管道任务进行创建、管理以及配置操作。区域 描述 ① 离线集成目录 创建的离线管道任务将在任务目录进行...

离线集成概述

线集成页面概述 离线集成页面主要由离线管道任务目录、工具栏、开发画布、配置及管理、控制组成。您可以在离线集成页面对离线管道任务进行创建、管理以及配置操作。区域 描述 ① 离线集成目录 创建的离线管道任务将在任务目录进行...

可观测性能力介绍

在控制目标实例详情页的 CloudDBA>离线全量Key分析 页签进行分析,更多信息请参见 离线全量Key分析。实例诊断 云数据库Redis版 综合了性能指标、慢日志、key分析等能力,提供了一站式全链路的实例诊断功能,从性能水位、访问倾斜情况、...

修改磁盘容量报警线

本文介绍如何通过云数据库HBase控制修改磁盘容量报警线。注意事项 磁盘容量使用占比达到报警线后,可以通过站内信、邮箱及短信方式通知账号联系人,超过95%后将无法继续写入数据,请及时关注报警信息并根据业务情况合理设置磁盘容量报警...

通过向导模式配置离线同步任务

使用说明 部分数据源不支持使用向导模式配置离线同步任务,您可以选择数据源后,根据界面提示,若当前数据源不支持向导模式编辑任务,则单击工具栏的 图标切换至脚本模式继续配置任务。详情请参见 通过脚本模式配置离线同步任务。向导...

通过脚本模式配置离线同步任务

当您需要实现更精细化的配置管理时,您可以使用脚本模式配置离线同步任务,通过编写数据同步的JSON脚本并结合DataWorks调度参数使用,将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍脚本模式配置离线同步任务...

场景:配置增量数据离线同步任务

线同步任务支持您通过配置类似的数据过滤功能来决定同步全量数据还是增量数据,配置过滤条件时,将只同步满足过滤条件的数据。同时,过滤条件可以结合调度参数使用,实现过滤条件随任务调度时间的动态变化,进而实现增量数据的同步。该...

处理治理项问题

您可以在DataWorks的治理工作台中查看可优化问题总数、可优化项排行、优化项类别及可优化的任务或表详情,及时发现并处理待治理问题。本文为您介绍如何查看并处理治理项问题。前提条件 已使用治理方案模板,详情请参见 查看治理方案模板。...

DataWorks on EMR Serverless StarRocks最佳实践

登录 DataWorks控制,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框选择对应工作空间后单击 进入数据开发。创建离线同步节点,设置数据来源为MySQL,数据去向为StarRocks数据源。选择资源组后,并分别测试与...

新零售:特步

业务架构 客户价值 基于 PolarDB-X+RDS的分布式数据库解决方案+业务中台提升客户数据链路的时效性以及客户业务系统的吞吐能力,使订单、库存、商品、销售的数据能实时从业务端到业务中台再到报表系统做销售业务决策。基于 PolarDB-X+RDS的...

飞线层

线层是3D平面世界地图的子组件,支持独立的样式和数据配置,包括飞线的速度、颜色、粗细以及起始点的经纬度等,能够以飞线动画的形式表现两个地理坐标点之间的过渡效果。本文介绍飞线层各配置项的含义。单击 子组件管理 下方的 飞线层,...

可观测性能力

在控制目标实例详情页的 CloudDBA>离线全量Key分析 页签进行分析,更多信息请参见 离线全量Key分析。实例诊断 云原生内存数据库Tair 综合了性能指标、慢日志、key分析等能力,提供了一站式全链路的实例诊断功能,从性能水位、访问倾斜...

概述

方案优势 T+1全量同步一键建仓方案有以下优势:一键同步数据源(RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据的上千张表数据,无需其他额外的配置工作。提供Serverless的服务,无需维护任何实例,零运维成本。数据同步...

DataWorks On CDP/CDH使用说明

二、数据建模与开发 模块 说明 相关文档 数据建模 数据建模是全链路数据治理的第一步,沉淀阿里巴巴数据中台建模方法论,从数仓规划、数据标准、维度建模、数据指标四个方面,以业务视角对业务的数据进行诠释,让企业内部实现“数同文”的...

DataWorks On Hologres使用说明

二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步,沉淀阿里巴巴数据中台建模方法论,从数仓规划、数据标准、维度建模、数据指标四个方面,以业务视角对业务的数据进行诠释,让企业内部实现“数同文”的...

配置RDS MySQL间的数据集成任务

说明 新版DTS控制暂不支持数据集成功能,您可以在数据管理DMS控制配置离线集成任务,详情请参见 离线集成概述。支持全量数据迁移的数据源均支持数据集成功能,详情请参见 迁移方案概览。前提条件 已创建源和目标实例,请参见 创建RDS ...

查看离线数据同步任务监控

前提条件 已上线离线数据同步任务,具体操作,请参见 上线离线数据同步任务。操作步骤 登录 数据资源平台控制。在页面左上角,单击 图标,选择 协同。在顶部菜单栏,单击 图标,选择目标工作组,单击 资产加工。在左侧导航栏,单击 图标...

步骤二:规划数仓

数仓规划是基于Dataphin建设数据中台的第一步,同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前,需要完成数据仓库的规划,包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...

步骤二:规划数仓

数仓规划是基于Dataphin建设数据中台的第一步,同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前,需要完成数据仓库的规划,包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 数据库备份 DBS 数据传输服务 云数据库 Redis 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用