ActionTrail日志清洗
系统默认的数据清洗时间是00:30，您可以根据业务规律，将数据清洗时间设置在业务低峰期，以免清洗过程中可能对业务造成的影响。完成上述参数配置后单击 创建，创建Schema。Schema创建成功后，DLA自动在您设定的同步时间将ActionTrail投递到...
背景信息以及准备工作
在使用DLA对OSS中的历史数据按天进行清洗时，由于数据清洗的SQL是固定的，只是每次执行的时候需要传入不同的日期，因此我们可以通过DataWorks来循环调度DLA数据清洗任务。针对上述场景，我们需要在DataWorks中完成以下工作：部署一个赋值...
DataWorks节点合集
引擎计算类节点 您可在具体业务流程，选择在某引擎下新建对应类型的引擎节点，基于该节点进行数据开发，并将引擎代码下发至对应的数据清洗引擎上执行。引擎计算类型节点介绍如下。说明 请先为DataWorks工作空间开通对应的服务或绑定所需...
Delta Lake概述
实时机器学习：在机器学习场景中，通常需要花费大量的时间用于处理数据，例如数据清洗、转换、提取特征等等。同时，您还需要对历史和实时数据分别处理。而Delta简化了工作流程，整条数据处理过程是一条完整的、可靠的实时流，其数据的清洗...
配置ClickHouse输出组件
例如数据同步至ClickHouse数据源前需要自定义数据清洗的规则，您就可以填写准备语句。填写完成语句：导入后执行的SQL脚本。例如数据写入目标表A后，重命名目标表A为B，您就可以填写完成语句。输入字段 展示从源表中读取的字段。输出字段 ...
配置AnalyticDB for PostgreSQL输出组件
例如，数据同步至AnalyticDB for PostgreSQL数据源前自定义数据清洗的规则。填写完成语句：导入后执行的SQL脚本。例如，数据写入目标表A后，重命名目标表A为B。输入字段 展示从源表中读取的字段。输出字段 输出字段区域展示了已选中表及...
配置ClickHouse输出组件
例如数据同步至ClickHouse数据源前需要自定义数据清洗的规则，您就可以填写准备语句。填写完成语句：导入后执行的SQL脚本。例如数据写入目标表A后，重命名目标表A为B，您就可以填写完成语句。输入字段 展示从源表中读取的字段。输出字段 ...
Iceberg概述
Iceberg是一种开放的数据湖表格式。您可以借助Iceberg快速地在HDFS或者阿里云OSS上构建自己的数据湖存储服务，并借助开源大数据生态的Spark、Flink、Hive和Presto等计算引擎来实现数据湖的分析。核心能力 Apache Iceberg设计初衷是为了解决...
配置AnalyticDB for PostgreSQL输出组件
例如，数据同步至AnalyticDB for PostgreSQL数据源前自定义数据清洗的规则。填写完成语句：导入后执行的SQL脚本。例如，数据写入目标表A后，重命名目标表A为B。输入字段 展示从源表中读取的字段。输出字段 输出字段区域展示了已选中表及...
应用场景
数据标准：管理数据标准和构建数据模型，将数据标准贯彻到数据质量分析、保障及检查的全过程中，将散乱的多源异构数据加工成标准、干净的数据资产，确保数据的完整性、一致性、准确性和可用性。数据建模：通过数据建模模块提供的各种数据...
引擎功能
数据库内机器学习 Lindorm时序引擎提供开箱即用的数据库内机器学习服务。您可以通过SQL语句直接在数据库内完成整个机器学习流程，挖掘更深的数据价值。使用数据库内机器学习服务的优势主要体现在以下几个方面：简单易用：无需掌握专业的...
2021年
创建PolarDB MySQL版数据订阅任务 创建Oracle数据订阅任务 2021年4月 类别 功能描述 相关文档 新增 ETL（Extract Transform Load）功能正在新版控制台公测中，可用于实现数据库中数据的清洗和转换处理，能够准确、高效地提供您需要的数据。...
表数据管理
ODC 中用颜色标识您对表中数据的操作，新增的数据用绿色标识，删除的数据用红色标识，修改后的数据用橙色标识。编辑态下，导航栏提供了以下操作键功能编辑表中的数据：功能 说明 添加行 单击该功能键将在表中指定位置插入一个空行。双击...
典型场景
数据ETL：DLA支持Spark，提供强大的数据ETL能力，把ODS层的原始数据清洗为结构化的DW数据。机器学习：DLA支持Spark，支持开源算法库。交互式分析：DLA提供Presto交互式分析，支持BI、分析师的数据分析诉求。联邦分析：同时连接多个数据源做...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
数据开发：开发者
背景信息 DataWorks的数据开发（DataStudio）面向各引擎（MaxCompute、Hologres、EMR、CDH等）提供可视化开发界面，包括智能代码开发、数据清洗加工、规范化任务开发与发布等，保证数据开发的高效与稳定。更多数据开发模块的使用，详情请...
版本发布记录
补齐分区写入功能 补齐了 INSERT OVERWRITE SELECT 的ETL、目标分区写入功能，简化了用户ETL数据清洗处理的步骤。深度集成的生态 接入融合分析和数据回流能力 目前支持如下数据源的接入融合分析和数据回流能力，包括对象存储OSS上7种以上...
规格及选型
对于日志数据提供SLS+OSS成熟的解决方案，能够实现仓内的高效数据清洗。Serverless版本分析能力完备，具备更强的单点计算能力。案例六：新零售企业 用户为新零售企业，需要构建CDP平台，平台需要完备的多数据源汇入能力，并提供CDP下游人群...
离线同步并发和限流之间的关系
问题三：为什么数据同步任务运行速率有时候相较限速阈值有较大差距？同步速率：数据同步速率和任务期望最大并发数是比较强相关的参数，两者结合在一起可以保护数据来源和数据去向端的读写压力，以避免数据同步任务对数据源带来较大压力，...
应用场景
2.实时数据清洗和分析 2.1 接入多种异构数据，实时清洗并归一化 通过数据总线和实时计算，您可以把多种数据源的异构数据实时清洗成统一的结构化数据，为进一步分析做准备。2.2 收益 实时ETL 接入多种数据源，实时进行清洗、过滤、关联与...
使用场景
数据清洗与加工 DMS任务编排可以用于数据清洗和加工任务的编排和执行，如数据清洗、数据匹配、数据合并、数据转换等，确保数据的准确性和完整性。数据集成与汇总 使用DMS任务编排集成和汇总不同数据源的数据，进行数据聚合和分析，生成报表...
数据迁移与同步FAQ
DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：将Redis数据库中的数据（即键值对）迁移至另一个Redis数据库中。通常迁移完成后即可...
数据保护规则简介
说明 进行任意查询时，涉及的数据都可以用<数据库，数据表，数据列>来表示。只有当数据库、数据表、数据列都被一条规则中的 meta 数据匹配上时，数据才会按照规则中指定的算法进行处理。在设置数据保护规则时，您需要保证 不同规则作用的...
水印使用限制
支持静态脱敏的数据源类型，请参见 支持的数据类型。对待嵌入水印的源数据有什么要求？由于嵌入水印的原理是将水印原子信息嵌入到不同特征的数据中去，因此源数据特征越多，越能嵌入完整的水印信息、提高提取成功率，并且即使缺失部分数据...
LTS（原BDS）服务介绍
使用指南 日志生命周期管理说明 开启日志订阅后，如果不消费数据，默认日志会保留48小时，超时后订阅关系自动取消，保留的数据自动删除 什么场景会导致“不消费数据”：没有终止任务的前提下直接释放LTS集群；同步任务暂停；使用日志订阅的...
创建数仓分层
用于将不同用途的数据，归类划分至不同的分层，便于您更好地组织、管理、维护数据。本文为您介绍如何创建并管理数仓分层。背景信息 数据仓库是所有数据的集合，包括日志信息、数据库数据、文本数据、外部数据等都集成在数据仓库中。数仓...
数据标准概述
应用场景 某集团IT团队制定了关于 员工性别 的数据标准：用male表示男性，用female表示女性，用unknown表示未知。首先，数据标准管理员创建了 性别 码表并同步到开发人员；接着创建了 员工性别 标准，值域范围引用 性别 码表，并添加了 ...
数据标准概述
应用场景 某集团IT团队制定了关于 员工性别 的数据标准：用male表示男性，用female表示女性，用unknown表示未知。首先，数据标准管理员创建了 性别 码表并同步到开发人员；接着创建了 员工性别 标准，值域范围引用 性别 码表，并添加了 ...
加工数据
此处需要创建的数据表，如下所示：创建三张表，分别存储同步过来的电量下降趋势数据、指标数据和窃电标志数据清洗之后的数据（clean_trend_data、clean_indicators_data 和 clean_steal_flag_data）。创建表 data4ml，存储汇聚后的数据。...
计费常见问题
本文汇总了数据传输服务DTS（Data Transmission Service）...Q：为什么数据同步实例的价格普遍高于数据迁移实例？A：数据同步具备更多的高级特性，例如在线调整同步对象和MySQL双向同步，且数据同步基于内网传输，可以保证更低的网络延时。
计费项
说明 数据流量是指客户端从订阅通道中消费的数据总量，按1元/GB计费，不足1 GB的按1 GB计算。适合数据量较小的订阅实例。其他类型的数据订阅实例暂不收取数据流量费。数据校验 链路配置费用 详情请参见 数据校验计费方式。专属集群 集群...
数据源权限管理
什么是私有模式的数据源？哪些用户能够收回数据源的分享权限？如何检查数据源分享关系的移除、关联情况？分享数据源后，其资源组的连通状态是否会被同步分享？分享数据源后，引用过该数据源的任务关联信息是否会被同步分享？哪些角色可以...
规划工作空间
空间成员：各部门委派的数据清洗人员。资源倾斜：时间靠前的（例如0点~2点）的调度资源组、引擎计算资源。数仓整合层（DW）：整合为一个统一的工作空间，或按照业务域划分，例如“dw_客户域”、“dw_商品域”等。任务节点：只有多输入、...
数据安全
数据备份与恢复 云原生多模数据库 Lindorm 宽表引擎支持数据备份恢复功能，该功能基于数据生态服务中的数据迁移，将数据存储至阿里云对象存储服务OSS（Object Storage Service，简称OSS）中，定期全量备份数据，实时增量同步数据，来满足对...
常见问题
Q：索引表已开启冷热分离，且查询时设置了 HOT_ONLY 或_l_hot_only_(true)，为什么查询索引表和查询主表返回的数据不一致？A：这是因为主表和索引表的冷数据归档过程是独立的，并且归档主表和索引表冷数据的操作是周期性触发的，导致了主表...
入仓解决方案
入仓解决方案可添加和运行多个实时同步任务、实时迁移任务，实现全量或近实时增量迁移和集成数据，用于满足项目空间内业务场景的数据迁移和集成需求。根据所需的同步效率、同步数据量需求，创建入仓解决方案同步线上库数据。入仓解决方案...
常见问题
常见参数调整案例 修改持久内存型实例的同步模式 过期策略 Redis默认的数据逐出策略是什么？过期Key数据的删除规则 Redis批量删除Key 规格与版本 如何确认Redis实例的小版本是否为最新版 Redis各版本的兼容性 包年包月实例是否可以更改规格...
执行补数据并查看补数据实例（旧版）
补数据可通过补历史或未来一段时间的数据，将写入数据至对应时间分区。代码中的 调度参数，将根据补数据选择的业务时间自动替换为具体值，并结合业务代码将对应时间数据写入指定分区。具体写入的分区与执行的代码逻辑，与任务定义的代码...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
01新建模型目录
DWD：全称Data Warehouse Detail，明细数据层，该层数据和源数据基本保持一致，保存着最细粒度的数据，一般存放所有的明细数据，是所有后期分析的数据基础。具有数据量大，查询计算较慢的特点。DWS：全称Data Warehouse Summary，汇总数据...
- 产品推荐
- 这些文档可能帮助您