数据服务
背景信息 数据服务提供了数据中台建设过程中的数据服务化能力，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析，实现数据中台...
添加处理后数据到数据管理
数据处理后，需要将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。本文以倾斜数据处理后为例，介绍如何添加处理后数据到数据管理。前提条件 已新建数据处理任务，具体操作，请参见 新建数据处理任务。操作...
空间数据（邀测中）
数据处理 支持倾斜数据处理能力，可以将OSGD格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
功能简介
数据处理 支持倾斜数据处理能力，可以将OSGB格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
准备工作
开通企业数据智能平台 企业数据智能平台默认为关闭状态，使用前需要前往 AnalyticDB PostgreSQL版 控制台开通。登录 云原生数据仓库AnalyticDB PostgreSQL版控制台。在控制台左上角，选择实例所在地域。...单击 开通数据中台。
应用场景
构建数据中台，行业领域模型快速沉淀 场景：快速构建数据仓库，有效治理数据质量，实现政企客户各部门数据的业务协同和共享。痛点：以政务服务为例，政务服务部门众多，业务系统复杂、流程长，数据来源多且更新频率高；数据口径标准、数据...
功能简介
面向数据资产管理者提供服务的统计分析、服务用量统计分析、热门数据统计分析能力，实现数据中台建设后半场“数据应用”的有效落地，支撑数据智能应用的高效开发。通用资源 提供了自定义函数和函数资源的能力，帮助用户在数据开发等过程中...
什么是Dataphin
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
什么是数据资源平台
统一服务：是一款数据中台建设过程中的数据服务化组件，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析能力，实现数据中台建设后...
Dataphin支持的数据源
资产质量概述 数据服务 数据服务（OneService）是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口，实现了数据的统一市场化管理，有效地降低数据开放门槛的同时，保障了数据开放的安全。数据服务概述 标签工厂 标签...
服务条款
3.1.6.2 当某台机器宕机或故障而造成该机器数据丢失时，云数据库Memcache版 服务整体仍然可用，但存储于该台机器内存中的 云数据库Memcache 缓存数据将会失效；3.1.6.2 当 云数据库Memcache版 服务升级时，云数据库Memcache版 服务整体仍然...
手动添加数据源
您可以通过 数据库备份DBS 的手动添加数据源功能，将不同环境的数据库添加至 数据库备份DBS 中，便于后续对数据源进行管理与备份。费用说明 添加数据源操作不会产生费用，只有在添加数据源后开启备份才会产生费用。如何开启备份，请参见 ...
常见问题概览
连接访问 打开SQLConsole页面时提示“未获取到数据库相关信息”的报错 MySQL中出现“Too many connections”报错 新增ECS自建数据库提示“因白名单问题无法连接数据库”账号或权限 如何在DMS控制台中查看数据库对应的DBA 在DMS控制台添加...
使用ETL分析实时订单
任务运行结果 本案例中，ETL任务的启动后（以8月1日为例），如实时交易数据表test_orders中更新的数据满足过滤条件（total_priceid>3000.00，即总交易额大于3000.00），则该数据会同步至目标表test_orders_new中。图 1.实时交易数据表test_...
新零售：特步
业务挑战 线下零售数千家门店，订单量很大，对在线交易数据库的高并发写入、海量存储能力要求较高。特步的业务属性决定了促销是一个常态，经常发生业务突变，大促期间单日订单量最高可达几百万，需要一定的弹性能力以支撑成倍订单增长带来...
数仓构建流程
本文为您介绍如何基于阿里巴巴OneData方法论最佳实践，使用Dataphin助力企业数据中台的建设与管理，快速构建标准、规范的数据仓库。数仓构建流程 下图为使用Dataphin构建数据仓库的基本流程。基本概念 在正式学习本教程之前，您需要了解...
添加DataWorks数据服务数据源
本文介绍在DataV中添加DataWorks数据服务数据源，并将通过DataWorks数据表生成的API，快速地展示在DataV可视化大屏中的方法。前提条件 已准备好待添加的DataWorks数据服务数据源。背景信息 DataWorks数据服务生成的API默认不支持HTTPS协议...
Grafana数据可视化
本文介绍如何在Grafana中添加并使用 云数据库 SelectDB 版 数据源。前提条件 已为 云数据库 SelectDB 版 实例 申请公网地址。具体操作，请参见 申请和释放公网地址。已将Grafana的公网IP地址加入 云数据库 SelectDB 版 实例到白名单中。...
添加DataWorks数据服务数据源
本文介绍在DataV中添加DataWorks数据服务数据源，并将通过DataWorks数据表生成的API，快速地展示在DataV可视化大屏中的方法。前提条件 已准备好待添加的DataWorks数据服务数据源。背景信息 DataWorks数据服务生成的API默认不支持HTTPS协议...
迁移方案概览
数据迁移功能帮助您实现同构或异构数据源之间的数据迁移，适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景。本文将介绍数据迁移功能支持的数据库、版本和迁移类型，以及具体的配置文档。说明 数据迁移在某些场景...
确定需求
在基于Dataphin构建与管理企业数据中台之前，首先需要确定数仓构建的目标与需求，进行全面的业务调研。您需要了解真实的业务需求是什么，以及确定整个业务系统能解决什么问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，...
支持的数据库
增量数据同步 单向同步 RDS MySQL同步至函数计算FC 云数据库SelectDB版 库表结构同步 全量数据同步 增量数据同步 单向同步 RDS MySQL同步至云数据库SelectDB版 源为PolarDB MySQL版的同步方案 重要 PolarDB-X 1.0中的数据库须基于RDS MySQL...
配置跨库Spark SQL节点
示例：某电商企业的交易数据保存在MySQL在线库中，而员工数据保存在HR系统中，系统使用的数据库为Oracle，当企业需要按部门统计销售额时，需要对部门、员工和交易数据进行关联查询。以下Spark SQL语句可以实现将mysql_db在线库的交易流水表...
核心概念
项目 项目是一种物理空间上的划分，便于用户在数据中台建设过程中对物理资源及开发人员进行隔离化管理。一个数据板块可以包含多个项目，Dataphin成员可以加入到多个不同的项目。一个数据板块可以有多个项目，但是一个项目只能属于一个数据...
如何设计Rowkey
云数据库HBase的Rowkey设计在数据分区和数据查询中很重要，本节介绍设计Rowkey前需要考虑的一些问题以及设计示例。问题考虑 问题一：Rowkey是唯一的吗？相同的Rowkey在HBase中认为是同一条数据的多个版本，查询时默认返回最新版本的数据，...
C100售前支持相关问题
审计数据可以通过控制台进行备份，备份的数据存储在对象存储OSS中。存储空间已经清空，为何控制台还是显示存储空间满？SLS清除数据任务一般会有1至2小时的延迟，可以在清空存储空间两小时后确认空间是否已清空。数据库审计和其他产品的区别...
增量数据同步
前往 数据查询 模块，单击 物理表查询，选择目标端数据源及表“dataq_odps_dev/stg_base_yhkh_demo_di”，在 数据预览 中可查看“stg_base_yhkh_demo_di”表中已写入zjzdjyrq（最近主动交易日期）为2022-12-13且gz（工资）大于10000元的...
转换计费方式
数据订阅按量付费实例不支持转换为 半价配置费+1元/GB数据流量费 的付费方式，该方式仅在 购买页 购买源库为MySQL的DTS订阅按量付费实例时可选。包年包月实例转为按量付费后，会将余款按之前的支付方式原路退回给您。数据校验任务暂不支持...
【降价通知】云数据库Redis版包年包月价格下调
公告详情 年付费折扣下调 云数据库 Redis 版 中国内地地域降价幅度 购买时长 原官网折扣 新官网折扣 价格降幅 1年 85折 68折-20%2年 7折 57折-19%3年 5折 41折-18%4年 5折 37折-26%5年 5折 32折-36%云数据库 Redis 版 中国香港地域降价幅度...
备份恢复
适用于对数据一致性有严格要求的金融行业以及在线核心交易类业务备份恢复场景。限制与说明 PolarDB-X 1.0 自动备份策略默认关闭，需要您手动开启。详情请参见 设置自动备份策略。PolarDB-X 1.0 日志备份能力依赖下层RDS，PolarDB-X 1.0 ...
计费模式
说明 元数据对象存储量计费案例：例如在1月1号，数据湖元数据中包括100个库，1万张表，共50万个分区，0.5万个索引，则 月初时，元数据对象的存储量=0.01（库）+1（表）+50（分区）+0.5（索引）=51.51万个存储对象 1月31号，增加60万个分区...
数据展示：Quick BI
将维度中的“ds1”和“commodity_name”和“cate_name”拖到字段 节点类别/维度，将度量中的“pay_ord_amt_fy1”拖到字段 节点高度/度量。样式：配置如图。标题：年度销售流量。步骤五：创建数据门户 进入 Quick BI工作台-数据门户，新建...
如何设计宽表主键
Lindorm宽表引擎是一款分布式数据引擎，宽表引擎中的数据均按照主键进行分布。在执行查询时，如果表中存在多列主键，系统会从最左边的主键开始匹配。如果主键设置不当，则可能导致主键无法被有效利用，进而产生热点问题，影响查询性能。...
什么是DataWorks
从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与数万名政务、央国企、金融、零售、互联网、能源、制造、工业等行业的客户携手，不断提升数据应用效率，助力产业数字化升级。产品架构 DataWorks十多年...
Db2 for LUW同步至云原生数据仓库 AnalyticDB ...
说明 如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志...
RDS MariaDB同步至RDS PoatgreSQL
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
新功能发布记录
OceanBase 数据库之间的数据迁移 支持 TiDB 数据库至 OceanBase 数据库 MySQL 租户的结构迁移、全量迁移、增量同步、全量校验和反向增量 迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户 支持 PolarDB-X 1.0 数据库至 OceanBase ...
配置同步任务（新控制台）
数据传输服务DTS（Data Transmission Service）提供的数据同步功能简单易用，您只需在新版控制台上进行简单操作，即可完成整个数据同步作业的配置。注意事项 本文仅简单介绍数据同步任务的通用配置流程，不同的同步链路在配置数据同步任务...
文档修订记录
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发...
Db2 for LUW同步至PolarDB-X 2.0
说明 如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志...
- 产品推荐
- 这些文档可能帮助您