空库初始化
数据管理DMS 的空库初始化功能支持将源数据库的表结构同步至空数据库中（数据库中不存在任何表），实现快速同步数据库表结构，适用部署多区域、多单元的数据库环境。前提条件 支持的数据库类型如下：MySQL：RDS MySQL、PolarDB MySQL版、...
RDS实例和本地数据库的表结构相同，但是索引不同，...
可以，如果数据订阅只订阅数据变更，那么两边索引不同不会影响。但是如果订阅了结构变更，而且RDS上涉及到索引变更的话，可能会由于两边索引不同，导致结构变更在本地消费失败。
API概览
DescribeSynDbTables 查看同步数据库与表 查看同步数据库与表。DeleteSyndb 删除同步任务 删除同步db。DescribeTransferHistory 查看迁移记录 查看迁移记录。TransferVersion 迁移版本 迁移版本。CreateServiceLinkedRole 创建服务关联角色...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
无 配置目标数据湖信息 目标数据库 存储目标表的数据库。database_1 目标数据表名称 作业会以此名称来建表。anti_rds 存储格式 目标表的数据格式。Hudi 数据湖存储位置 数据存储的OSS路径。格式为 oss:/名称>/目录名称>/。oss:/doc-test-01...
DescribeSynDbTables-查看同步数据库与表
查看同步数据库与表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...
通过任务编排实现跨库数据同步
在MySQL数据库中新建订单表t_order、商品表t_product和用于同步数据分析结果的统计表t_order_report_daily。创建表名为t_order的订单表。将下列建表SQL语句粘贴到SQL书写区域，单击 执行。创建订单表t_order的SQL语句：CREATE TABLE `t_...
应用场景
云上云下数据库同步 通过数据库传输服务DTS的数据同步功能，可以使本地IDC或其他云厂商的数据库与阿里云数据库内容进行同步，详情请参见 数据同步的工作原理，架构图如下所示。本地IDC/跨云数据库备份上云 数据库备份 DBS 是阿里云提供的低...
数据集成
数据集成通过配置输入输出，可实现单表数据同步至目标单表，以及整库数据同步，详情请参见 实时同步支持的数据源、实时同步能力说明。同步任务调度配置 节点依赖关系 离线同步任务 离线同步任务的上游任务：由于同步任务可依赖平台侧血缘，...
应用场景
云上云下数据库同步 通过数据库传输服务DTS的数据同步功能，可以使本地IDC或其他云厂商的数据库与阿里云数据库内容进行同步，详情请参见 数据同步的工作原理，架构图如下所示。本地IDC/跨云数据库备份上云 数据库备份 DBS 是阿里云提供的低...
数据方案概览
空库初始化 支持将源数据库的表结构同步至空数据库中，实现快速同步数据库表结构。表一致性修复 用于对比不同表之间的表结构，找出差异并在目标表执行差异脚本，以保障不同表之间的表结构一致性 无锁结构变更 可以较好地规避因锁表以致于...
RDS PostgreSQL间的双向同步
命令，以保障该表数据同步的一致性。执行该命令期间，建议您不要有锁表操作，否则会导致表锁死。说明 将上述命令中的 schema 和 table 替换成真实的Schema名和表名。建议您在业务低峰期进行操作。DTS的校验对象为数据内容，暂不支持...
RDS PostgreSQL间的单向同步
命令，以保障该表数据同步的一致性。执行该命令期间，建议您不要有锁表操作，否则会导致表锁死。说明 将上述命令中的 schema 和 table 替换成真实的Schema名和表名。建议您在业务低峰期进行操作。DTS的校验对象为数据内容，暂不支持...
RDS PostgreSQL间的双向同步
命令，以保障该表数据同步的一致性。执行该命令期间，建议您不要有锁表操作，否则会导致表锁死。说明 将上述命令中的 schema 和 table 替换成真实的Schema名和表名。建议您在业务低峰期进行操作。DTS的校验对象为数据内容，暂不支持...
MongoDB 3.4（已停止新购）
使用MongoDB工具将自建数据库迁移至副本集实例 使用MongoDB工具将自建数据库迁移至分片集群实例 使用NimoShake工具将Amazon DynamoDB数据库迁移至阿里云数据库MongoDB 使用MongoDB工具将MongoDB Atlas数据库迁移至阿里云数据库MongoDB 使用...
Amazon Redshift数据源
Amazon Redshift数据源为您提供读取和写入Amazon Redshift的双向通道，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍Amazon Redshift数据同步能力支持情况。支持的Amazon Redshift版本 Amazon Redshift使用的驱动...
PyMySQL 连接 OceanBase 数据库示例程序
本文将介绍如何使用 PyMySQL 库和 OceanBase 数据库构建一个应用程序，实现基本的数据库操作，包括创建表、插入数据、查询数据和删除表等。点击下载 python-pymysql 示例工程 前提条件 您已安装 Python 3.x 和 pip。您已安装 OceanBase ...
PostgreSQL数据源
如果 splitPk 不填写，包括不提供 splitPk 或者 splitPk 值为空，数据同步视作使用单通道同步该表数据。否 无 where 筛选条件，PostgreSQL Reader根据指定的 column、table 和 where 条件拼接SQL，并根据该SQL进行数据抽取。例如在测试时，...
GBase8a数据源
GBase8a数据源为您提供读取和写入GBase8a双向通道的功能，本文为您介绍DataWorks的GBase8a数据同步的能力支持情况。使用限制 目前Gbase8a Reader和Gbase8a Writer仅支持使用 新增和使用独享数据集成资源组。insert into.：当主键或唯一性...
DM（达梦）数据源
数据同步系统会启动并发任务进行数据同步，以提高数据同步的效能：推荐 splitPk 用户使用表主键，因为表主键通常情况下比较均匀，切分出来的分片也不容易出现数据热点。目前 splitPk 仅支持整型数据切分，不支持浮点、字符串和日期等其他...
AnalyticDB for PostgreSQL数据源
如果不填写 splitPk，包括不提供splitPk或者splitPk值为空，数据同步视作使用单通道同步该表数据。否 无 where 筛选条件，AnalyticDB for PostgreSQLReader根据指定的 column、table 和 where 条件拼接SQL，并根据该SQL进行数据抽取。例如...
功能特性
结构同步 空库初始化 支持将源数据库的表结构同步至空数据库中（数据库中不存在任何表），实现快速同步数据库表结构，适用部署多区域、多单元的数据库环境。空库初始化 表一致性修复 用于对比不同表之间的表结构，找出差异并在目标表执行...
LTS（原BDS）服务介绍
可以通过LTS将RDS数据实时同步到Lindorm宽表实现冷热数据分离，Lindorm宽表提供自动水平扩展、高并发查询、多维索引、轻量分析，Lindorm Streams提供变更数据有序订阅，LTS还支持将Lindorm 宽表数据同步到其它分析系统进行复杂数据分析。
采集数据
user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构数据源间的数据同步，完成数仓数据...
采集数据
user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构数据源间的数据同步，完成数仓数据...
结构同步
数据管理DMS 的结构同步功能支持对比不同数据库、指定表之间的表结构，产生差异化脚本并执行到目标数据库。适用于对比、同步多套数据库环境的表结构，例如生产库与测试库、不同的测试库、不同的生产库等。前提条件 支持的数据库类型如下：...
自动同步PolarDB-X元数据
注意事项 同步数据时，会在 湖仓版（3.0）集群中创建与PolarDB-X 2.0实例中数据库和表同名的库表，因此在同步数据时需注意以下内容：若 湖仓版（3.0）集群中已经存在同名库和同名表，则会导致数据同步失败。若 湖仓版（3.0）集群仅存在同...
数据迁移和同步方案概览
云数据库MongoDB支持使用阿里云自研的MongoShake工具，实现MongoDB数据库间的数据同步。不同同步场景下数据同步的方法如下。同步场景 同步工具 文档链接 实例间同步 DTS 云数据库MongoDB版（副本集架构）同步至云数据库MongoDB版（副本集...
从ECS上的自建MySQL同步至PolarDB MySQL版
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
从ECS上的自建MySQL同步至RDS
注意事项 DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，...
RDS MySQL实例间的单向同步
数据传输服务DTS（Data Transmission Service）支持两个MySQL数据库之间的数据同步，本文以RDS MySQL实例之间的单向同步为例，介绍配置流程。前提条件 数据同步的源RDS实例和目标RDS实例已存在，详情请参见 创建RDS实例。源RDS实例和目标...
从ECS上的自建MySQL同步至PolarDB MySQL版
选中 结构初始化 和 全量数据初始化 后，DTS会在增量数据同步之前，将源数据库中待同步对象的结构和存量数据，同步到目标数据库。上述配置完成后，单击页面右下角的 预检查并启动。说明 在同步作业正式启动之前，会先进行预检查。只有预...
PolarDB MySQL版间的单向同步
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
从通过专线、VPN网关或智能接入网关接入...MySQL同步至RDS
为避免该问题，您可以在数据同步配置时将该表所属的整个数据库作为同步对象，且确保RENAME TABLE操作前后的表所属的数据库均在同步对象中。TRUNCATE TABLE 功能限制 不兼容触发器 当同步对象为整个库，且库中的触发器（TRIGGER）会更新库内...
RDS MySQL实例间的单向同步
数据传输服务DTS（Data Transmission Service）支持两个MySQL数据库之间的数据同步，本文以RDS MySQL实例之间的单向同步为例，介绍配置流程。前提条件 数据同步的源RDS实例和目标RDS实例已存在，详情请参见 创建RDS实例。源RDS实例和目标...
从RDS同步至通过专线、VPN网关或智能接入网关接入的自...
为避免该问题，您可以在数据同步配置时将该表所属的整个数据库作为同步对象，且确保RENAME TABLE操作前后的表所属的数据库均在同步对象中。TRUNCATE TABLE 功能限制 不兼容触发器 当同步对象为整个库，且库中的触发器（TRIGGER）会更新库内...
PolarDB MySQL版间的单向同步
选中 结构初始化 和 全量数据初始化 后，DTS会在增量数据同步之前，将源数据库中待同步对象的结构和存量数据，同步到目标数据库。上述配置完成后，单击页面右下角的 预检查并启动。说明 在同步作业正式启动之前，会先进行预检查。只有预...
从ECS上的自建MySQL同步至RDS
注意事项 DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，...
MySQL实例间的双向同步
同步源数据库 同步目的数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能网关接入的自建数据库 通过数据库网关接入的自建数据库 通过云企业网CEN接入的自建数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能...
数据同步流程
数据传输提供数据同步功能，帮助您实现数据源之间的数据实时同步。适用于数据异地多活、数据异地灾备、数据聚合和实时数据仓库等多种业务场景。您可以参考以下流程进行同步前的准备工作、以及购买、配置和管理数据同步项目。完成准备工作。...
从RDS MySQL同步至PolarDB MySQL版
选中 结构初始化 和 全量数据初始化 后，DTS会在增量数据同步之前，将源数据库中待同步对象的结构和存量数据，同步到目标数据库。上述配置完成后，单击页面右下角的 预检查并启动。说明 在同步作业正式启动之前，会先进行预检查。只有预...
- 产品推荐
- 这些文档可能帮助您