数据集成侧同步任务能力说明
当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行增量同步。但实际生产场景下，数据库表中不一定存在 ...
增量数据同步
勾选该项，本同步任务首次运行将会全量同步数据。不勾选 在 字段映射 区域默认选择 同名映射。在 解析配置 区域，可编写解析脚本，该步骤为可选项，本文不做设置。说明 配置完解析脚本后，将不再对源端配置的增量字段作解析，直接使用配置...
数据同步方案概览
全量数据同步 DTS将源库中待同步对象的存量数据，全部同步到目标库中，作为后续增量同步数据的基线数据。为简化数据同步的操作，建议在配置数据同步任务时，同时勾选 库表结构同步 和 全量同步。增量数据同步 同步任务固定支持增量数据同步...
原理架构
目标端 Writer 插件：根据存储中的变更数据，将变更在目的端数据库进行重放，实现增量同步功能。全量校验：对源、目的端对应表数据进行数据一致性的全量校验。增量校验：对源、目的端增量数据进行一致性校验。管理控制台：负责数据同步任务...
监控任务性能
功能 说明 增量同步链路拓扑 增量同步链路主要展示链路中各模块间的数据传输情况和网络延迟信息，模块包含：源库、DTS采集模块、DTS缓存模块、DTS写入模块、目标库。相关参数解释如下：BPS：链路中模块间每秒传输的数据量，单位为MB/s。RPS...
应用场景
云上云下数据库同步 通过数据库传输服务DTS的数据同步功能，可以使本地IDC或其他云厂商的数据库与阿里云数据库内容进行同步，详情请参见 数据同步的工作原理，架构图如下所示。本地IDC/跨云数据库备份上云 数据库备份 DBS 是阿里云提供的低...
一键MaxCompute任务出错恢复
全量补数据暂不支持分库分表全增量同步任务。执行此操作前，请确认注意事项中的说明，并在第二日及时检查执行结果，如果次日数据未产出或者Merge任务恢复自动运行，需要手动确认并恢复该Merge实例的运行。通过重新创建全增量同步任务恢复 ...
使用数据传输迁移数据
增量同步 增量同步任务开始后，数据传输会同步源库发生变化的数据（新增、修改或删除）至目标端数据库对应的表中。增量同步 包括 DML 同步 和 DDL 同步，您可以根据需求进行自定义配置。详情请参见 自定义配置 DDL/DML。全量校验 在全量...
OceanBase 数据库之间的数据迁移
如果创建数据迁移项目时，您配置了 全量迁移+增量同步，数据传输要求源端数据库的本地增量日志至少保留 7 天以上。否则数据传输可能因为无法获取增量日志导致数据迁移项目失败，甚至导致源端和目标端数据不一致。仅适用于 OceanBase 数据库...
TimeseriesAnalyticalStore
全量同步或者增量同步。} 名称 类型 描述 store_name string 分析存储名称。time_to_live int32 分析存储数据保留时间。取值必须大于等于2592000秒（即30天）或者必须为-1（数据永不过期）。sync_option AnalyticalStoreSyncType 分析存储...
将表格存储数据下载到本地文件
导出文件格式 操作方式 JSON 通过命令行工具直接下载 CSV 通过DataX工具直接下载 通过DataWorks工具同步数据到OSS后再下载 TEXT 通过DataWorks工具同步数据到OSS后再下载 通过命令行工具直接下载 通过命令行工具导出表中数据到本地JSON文件...
将表格存储时序表中数据同步到另一个时序表
您可以在数据开发（DataStudio）界面直接创建离线同步节点用于离线（批量）数据周期性同步或者创建实时同步节点用于单表或整库增量数据实时同步。更多信息，请参见 数据集成概述。使用DataWorks数据集成的离线同步任务，您可以将表格存储...
OceanBase 数据库 MySQL 租户的数据至 MySQL 数据库
如果创建数据迁移项目时，您配置了 全量迁移+增量同步，数据传输要求源端数据库的本地增量日志至少保留 7 天以上。否则数据传输可能因为无法获取增量日志导致数据迁移项目失败，甚至导致源端和目标端数据不一致。支持的源端和目标端实例...
迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL ...
如果创建数据迁移项目时，您配置了 全量迁移+增量同步，数据传输要求源端数据库的本地增量日志至少保留 7 天以上。否则数据传输可能因为无法获取增量日志导致数据迁移项目失败，甚至导致源端和目标端数据不一致。支持的源端和目标端实例...
API概览
DescribeSynDbTables 查看同步数据库与表 查看同步数据库与表。DeleteSyndb 删除同步任务 删除同步db。DescribeTransferHistory 查看迁移记录 查看迁移记录。TransferVersion 迁移版本 迁移版本。CreateServiceLinkedRole 创建服务关联角色...
数据集成概述
当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行增量同步。但实际生产场景下，数据库表中不一定存在 ...
迁移 PolarDB-X 2.0 数据库的数据至 OceanBase 数据库...
如果创建数据迁移项目时，您配置了 全量迁移+增量同步，数据传输要求源端数据库的本地增量日志至少保留 7 天以上。否则数据传输可能因为无法获取增量日志导致数据迁移项目失败，甚至导致源端和目标端数据不一致。说明 您可以在全量迁移完成...
使用DataWorks（离线与实时）
最佳实践 数据库整库离线同步至MaxCompute 整库离线同步至MaxCompute OSS数据离线同步至MaxCompute EMR Hive数据整库离线同步至MaxCompute 数据库增量数据离线同步至MaxCompute RDS增量数据同步至MaxCompute Kafka增量数据同步至MaxCompute...
调度参数返回值二次处理的典型场景
不同场景的数据增量同步，详情请参见 数据增量同步。调度参数的配置及测试结果如下表。参数配置 测试定时时间CYCTIME 返回结果 调度参数配置：beginDateTime=$[yyyymmdd-1]endDateTime=$[yyyymmdd]处理调度参数返回值：select '${...
迁移方案概览
源为TiDB的迁移方案 源为Db2 for LUW的迁移方案 源为Db2 for i（AS/400）的迁移方案 源为Teradata的迁移方案 源为自建HBase的迁移方案 源为第三方云的迁移方案 跨阿里云账号实例间迁移 说明 下表中各类自建数据库（例如自建MySQL、SQL ...
空库初始化
数据管理DMS 的空库初始化功能支持将源数据库的表结构同步至空数据库中（数据库中不存在任何表），实现快速同步数据库表结构，适用部署多区域、多单元的数据库环境。前提条件 支持的数据库类型如下：MySQL：RDS MySQL、PolarDB MySQL版、...
迁移 RDS PostgreSQL 实例的数据至 OceanBase 数据库 ...
增量同步 增量同步任务开始后，数据传输会同步源库发生变化的数据（新增、修改或删除）至目标端数据库对应的表中。增量同步 支持 DML 同步，您可以根据需求进行自定义配置。详情请参见 自定义配置 DDL/DML。全量校验 在全量迁移完成、增量...
同步时源库为PolarDB MySQL版的注意事项及限制
如为全量同步和增量同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因无法获取Binlog而导致任务失败，极端情况下甚至可能会导致数据不一致或丢失。...
创建 RDS 实例用户及授权
表分类 结构迁移 全量迁移 增量同步 DML 增量同步 DDL 全量校验 反向增量 有主键表、有非空唯一键表 只读 只读 只读 只读 只读 仅 DDL（仅同步 DDL）仅 DML（仅同步 DML）读写（同步 DDL+DML）无主键表、无非空唯一键表 只读 只读 只读 ...
同步时源库为SQL Server的注意事项及限制
如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志而导致...
迁移 PolarDB-X 1.0 数据库的数据至 OceanBase 数据库...
如果创建数据迁移项目时，您配置了 全量迁移+增量同步，数据传输要求源端数据库的本地增量日志至少保留 7 天以上。否则数据传输可能因为无法获取增量日志导致数据迁移项目失败，甚至导致源端和目标端数据不一致。支持的源端和目标端实例...
增量导入
本章节介绍搜索引擎如何进行增量导入。请参见 RDS增量导入，将增量数据导入到宽表引擎中。导入宽表引擎后，后台会通过BDS服务自动将宽表引擎的增量数据同步到搜索引擎中。重要 同步到搜索引擎的数据仅限于已经配置好的schema映射。
增量导入
本章节介绍搜索引擎如何进行增量导入。请参见 RDS增量导入，将增量数据导入到宽表引擎中。导入宽表引擎后，后台会通过BDS服务自动将宽表引擎的增量数据同步到搜索引擎中。注意 同步到搜索引擎的数据仅限于已经配置好的schema映射。
OceanBase 数据库 MySQL 租户之间的数据同步
本文为您介绍如何创建 OceanBase 数据库 MySQL 租户（简称为 OB_MySQL）至 OceanBase 数据库 MySQL 租户的数据同步项目。前提条件 数据传输已具备云资源访问权限。详情请参见 数据传输迁移角色授权。已为 OceanBase 数据库创建专用于数据...
基础术语
中文 释义 数据抓取延迟 数据抓取延迟是指数据同步服务抓取数据并写入产品存储的时间与数据实际写入至源数据库的时间差。数据抓取延迟仅在增量同步阶段有数值。数据写入延迟 数据写入延迟是指同步到目标实例的最新数据在源数据库执行的时间...
创建 PolarDB 实例用户及授权
表分类 结构迁移 全量迁移 增量同步 DML 增量同步 DDL 全量校验 反向增量 有主键表、有非空唯一键表 只读 只读 只读 只读 只读 仅 DDL（仅同步 DDL）仅 DML（仅同步 DML）读写（同步 DDL+DML）无主键表、无非空唯一键表 只读 只读 只读 ...
同步 RDS PostgreSQL 实例的数据至 OceanBase 数据库 ...
本文为您介绍如何同步 RDS PostgreSQL 实例的数据至 OceanBase 数据库 Oracle 租户。前提条件 数据传输已具备云资源访问权限。详情请参见 数据传输迁移角色授权。已为源端 RDS PostgreSQL 实例创建专用于数据同步项目的高权限账号。详情请...
查看同步链路状态和性能
DTS可以展示全量同步性能、显示并诊断 增量同步性能，使您可以了解数据同步作业的链路状态信息和多种性能指标，为您管理数据同步作业提供参考依据。操作步骤 登录 数据传输控制台。说明 若数据传输控制台自动跳转至数据管理DMS控制台，您...
Oracle 租户的增量数据至 MySQL 数据库
创建数据迁移项目时，您仅配置了 增量同步，数据传输要求源端数据库的本地增量日志保存 48 小时以上。支持的源端和目标端实例类型 下表中，OceanBase 数据库 Oracle 租户简称为 OB_Oracle，支持的实例类型为 OceanBase 集群实例。源端 目标...
MySQL整库周期性增全量同步至Hive
本文以MySQL为源端，Hive为目标端场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到Hive。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以Hive作为...
MySQL整库周期性增全量同步至MaxCompute
本文以MySQL离线同步写入MaxCompute场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以...
RDS SQL Server同步至云原生数据仓库 AnalyticDB ...
预检查完成后，DTS会将源实例中待同步对象的全量数据在目标集群中初始化，作为后续增量同步数据的基线数据。说明 若选中了 全量同步，则执行了CREATE TABLE语句的待同步表（表结构和表数据）支持同步至目标库。目标已存在表的处理模式 预...
实时同步数据库的数据至Hologres
本文为您介绍如何通过DataWorks数据集成实时同步数据库中的数据至Hologres。前提条件 开通DataWorks，详情请参见 入门概述。开通Hologres实例并绑定至DataWorks工作空间，详情请参见 DataWorks快速入门。已开通云数据库。说明 跨地域是否...
查看数据迁移项目的详情
增量同步 增量同步任务开始后，会同步源库发生变化的数据（新增、修改或删除）至目标端数据库对应的表中。当源库不断有业务写入时，数据传输会在全量数据迁移启动前，启动增量拉取模块，以拉取源实例中的增量更新数据，对其进行解析、封装...
同步 OceanBase 数据库的数据至 RocketMQ
注意事项 当 OceanBase 数据库 V4.x 进行增量同步时，如果生成列没有标记 STORED 属性，则同步目标端时该列将同步为 NULL 值，导致下游接收该列数据时不符合预期。当更新的行包括 LOB 列时：如果 LOB 列为更新列，请勿依赖 LOB 列在 UPDATE...
- 产品推荐
- 这些文档可能帮助您