创建自建数据库用户及授权
背景信息 自建 MySQL 数据库实例的类型包括 VPC 内自建数据库 和 公网 IP 自建数据库。本文创建的自建数据库用户，用于创建自建数据库实例类型的 MySQL 数据源时填写 用户名。创建自建数据库用户 在创建 MySQL 数据源时，您可以直接选择...
DROP DATABASE
DROP DATABASE用于移除一个数据库。简介 DROP DATABASE 移除一个数据库。它会移除该数据库的系统目录项并且删除包含数据的文件目录。它只能由数据库拥有者执行。当你已经连接到目标数据库时，它不能被执行（连接到 postgres 或者任何其他...
应用场景
云上云下数据库同步 通过数据库传输服务DTS的数据同步功能，可以使本地IDC或其他云厂商的数据库与阿里云数据库内容进行同步，详情请参见 数据同步的工作原理，架构图如下所示。本地IDC/跨云数据库备份上云 数据库备份 DBS 是阿里云提供的低...
配置DTS迁移、同步或校验任务
说明 当目标实例或目标数据库的类型为PolarDB PostgreSQL版（兼容Oracle）、AnalyticDB PostgreSQL、PostgreSQL、MaxCompute、MongoDB数据库时，本参数才可用且必须传入。若目标库为MaxCompute，您需要填写为MaxCompute实例的Project。...
自动同步PolarDB-X元数据
当您需要 一站式完成 PolarDB分布式版 数据同步与管理时，可以在 PolarDB分布式版 实例中开通列存引擎并绑定目标 湖仓版（3.0）集群。相较于其他数据同步方案，一站式方案同步数据成本低、简单易用、能实时同步数据，可实现真正的实时分析...
同步 OceanBase 数据库的数据至 RocketMQ
本文为您介绍如何使用数据传输同步 OceanBase 数据库的数据至 RocketMQ。背景信息 消息队列 RocketMQ 是阿里云基于 Apache RocketMQ 构建的低延迟、高并发、高可靠的分布式消息中间件。数据传输的数据同步功能可以帮助您实现 OceanBase ...
通过向导模式配置离线同步任务
增量同步过滤条件的语法与数据库语法基本一致，同步时，离线同步将拼接为完整SQL向对应数据源抽取数据。当不配置数据过滤条件时，默认同步该表全量数据。关系型数据库配置切分键 定义将源端待同步数据基于源端哪一个字段进行切分，同步任务...
通过脚本模式配置离线同步任务
增量同步过滤条件的语法与数据库语法基本一致，同步时，离线同步将拼接为完整SQL向对应数据源抽取数据。关系型数据库配置切分键 定义将源端待同步数据基于源端哪一个字段进行切分，同步任务执行时将根据该字段切分为多个task，以便并发、...
基本概念
同步延迟 同步延迟是指同步到目标数据库的最新数据的时间戳，与源数据库的当前时间戳之间的差值。如果同步延迟为0，则源数据库与目标数据库的数据完全同步。数据更新 数据更新是指仅修改数据，未修改结构定义的操作，例如INSERT、DELETE和...
常见问题
同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个阿里云账号下，进行数据同步时如何...
缓存数据持久化
当您使用云数据库RDS MySQL并需要提升数据处理速率和降低访问延迟时，阿里云为您提供了缓存数据持久化的高效方案，该解决方案通过整合云数据库Redis与RDS、云数据库Memcache与RDS协同工作，确保数据的高速访问和持久化存储，具备高吞吐、低...
迁移数据库账号
注意事项 当前仅MySQL实例间的同步或迁移、MySQL实例同步或迁移到 PolarDB MySQL版 集群、PolarDB MySQL版 集群间的同步或迁移实例，支持将源库的账号迁移至目标库。说明 MySQL实例含RDS MySQL和自建MySQL。目标RDS MySQL实例为5.6版本时，...
采集数据
说明 在数据集成同步任务配置前，您可以在DataWorks的 数据源 页面，配置好您需要同步的源端和目标端数据库或数据仓库的相关信息，以便在同步任务配置过程中，可通过选择数据源名称来控制同步读取和写入的数据库或数据仓库。本教程提供数据...
采集数据
说明 在数据集成同步任务配置前，您可以在DataWorks的 数据源 页面，配置好您需要同步的源端和目标端数据库或数据仓库的相关信息，以便在同步任务配置过程中，可通过选择数据源名称来控制同步读取和写入的数据库或数据仓库。本教程提供数据...
购买DTS实例
关于支持的源库和目标库对应情况，请参见支持的 数据库、同步初始化类型和同步拓扑,支持的数据库和迁移类型。本参数或 JobId 必须传入其中之一。DestinationEndpointEngineName String 否 MySQL 目标数据库引擎类型。MySQL：MySQL数据库...
HBase数据同步与迁移
本文介绍HBase数据同步与迁移的使用场景、功能列表、迁移优势、使用限制以及迁移任务等操作。使用场景 自建上云：将HBase数据迁移至Lindorm。跨地域迁移：例如从青岛机房迁移到北京机房。业务拆分：将部分业务迁移到新的集群。功能及优势 ...
MySQL整库周期性增全量同步至Hive
本文以MySQL为源端，Hive为目标端场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到Hive。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以Hive作为...
数据同步流程
您已为源端和目标端创建专用于数据同步的数据库用户，并赋予其相关权限。详情请参见 创建数据库用户。新建数据源。在 数据传输>管理数据源 页面，分别新建源端和目标端的数据源。详情请参见 新建数据源 模块的文档。购买数据同步项目。根据...
如何迁移到DBFS？
本文档主要为您说明在使用阿里云数据库存储DBFS时，如何方便的将数据库迁移到DBFS上。一般存在以下几种常用的方式：主备同步：搭建主备库，通过binary log同步数据到自建于DBFS上的数据库。DTS：使用阿里云产品DTS，将数据迁移到自建于DBFS...
Hologres整库周期性增全量同步至MaxCompute
本文以Hologres离线同步写入MaxCompute场景为例，为您介绍如何把Hologres整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以Hologres作为来源...
AnalyticDB for MySQL3.0整库周期性增全量同步至...
本文以AnalyticDB for MySQL3.0离线同步写入Hologres场景为例，为您介绍如何把AnalyticDB for MySQL3.0整个数据库的数据离线同步到Hologres。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。...
PolarDB PostgreSQL版同步至云原生数据仓库AnalyticDB...
选择为 忽略报错并继续执行，可能导致数据不一致，给业务带来风险，例如：表结构一致的情况下，如在目标库遇到与源库主键或唯一键的值相同的记录：全量期间，DTS会保留目标集群中的该条记录，即源库中的该条记录不会同步至目标数据库中。...
MySQL实例间的双向同步
同步源数据库 同步目的数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能网关接入的自建数据库 通过数据库网关接入的自建数据库 通过云企业网CEN接入的自建数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能...
新建 MySQL 数据源
数据库实例 从 数据库实例 下拉列表中，选择目标数据库实例。公网 IP 自建数据库 主机 IP 数据库宿主机的 IP。端口 数据库宿主机 IP 的端口号。共有参数 数据源标识 建议使用中文、数字和字母的组合。名称中不能包含空格，长度限制为 32 个...
数据集成侧同步任务配置
背景信息 数据集成基于源端数据库与目标端数据库类型为您提供丰富的数据同步任务，同步类型包括：整库离线同步（一次性全量同步、周期性全量同步、离线全增量同步、一次性增量同步、周期性增量同步）、一键实时同步（一次性全量同步，实时...
输入和输出
例如，一个工作流集成，在输入构造器的位置，只可以使用$Context 与$Input。而在输出构造器的位置，已经通过该 Task 调用产生输出，则可以使用$Output 代表输出内容。当使用以$开头的保留字时，需要在流程定义语言支持的构造器的Key的末尾...
新建 TiDB 数据源
如果未勾选该项，创建 TiDB 数据库至 OceanBase 数据库 MySQL 租户的数据迁移项目时，迁移类型无法选择 增量同步。TiDB 数据格式 迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户时，您可以选择 TiCDC 或 TiDB Binlog 格式的数据，...
产品架构
数据实时同步：DTS同步正在进行的数据变更，并保持源数据库和目标数据库的同步。为了同步正在进行的数据变更，DTS使用两个处理事务日志的模块：事务日志读取模块：日志读取模块从源实例读取原始数据，经过解析、过滤及标准格式化，最终将...
从PolarDB PostgreSQL版（兼容Oracle）集群同步至自建...
一个数据同步作业只能同步一个数据库，如有多个数据库需要同步，您需要为每个数据库配置数据同步作业。为保障同步延迟时间展示的准确性，DTS会在源库中新增一个表，表名为 dts_postgres_heartbeat，结构及内容如下图所示。若源库有长事务，...
ALTER DATABASE
ALTER DATABASE 更改一个数据库的属性。简介 ALTER DATABASE 更改一个数据库的属性。第一种形式更改某些针对每个数据库的设置。只有数据库拥有者或者超级用户可以更改这些设置。第二种形式更改数据库的名称。只有数据库拥有者或者超级用户...
一键升级RDS MySQL X-Engine至PolarDB MySQL版
迁移切换后到迁移结束前，PolarDB 数据库将反向同步到源RDS MySQL实例，反向同步的表引擎与 PolarDB 数据库建表时一致。在进行 步骤二：迁移切换 和 步骤三：完成迁移 时：目标 PolarDB 集群，建表默认使用Innodb引擎，而不是X-Engine。若...
数据同步方案概览
源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i（AS/400）的同步方案 源为数据...
更改 Topic
适用场景 创建数据库至消息队列的数据同步项目时，数据传输支持您在选择需要同步的 Topic 类型后，通过 更改 Topic 功能重新选择 Topic 名称。操作步骤 将数据同步项目配置至 选择同步对象 步骤。详情请参见相应类型的 数据同步 项目文档。...
通过DTS采集数据
注意 DataHub同步的是增量数据，您的数据库中必须插入、删除或更新一条或多条数据后，才会同步到DataHub中。本案例采用手动插入数据的方法，但在实际情况中，都是将用户的购买行为，通过程序的方式动态同步到数据库中的。进行数据抽样时，...
创建数据库用户
您在使用数据传输的数据迁移和数据同步功能前，请先在源端和目标端数据库中，为数据迁移或同步任务创建专用的数据库用户。OceanBase 数据源 创建 OceanBase 数据库用户 此处创建的 OceanBase 数据库用户，用于创建 实例类型 为 VPC 内自建...
RDS MySQL与PolarDB MySQL版间的双向同步
支持的源数据库 MySQL与 PolarDB MySQL版 集群双向同步，支持源数据库MySQL为以下类型。本文以RDS MySQL实例为例介绍配置流程，其他类型的源数据库配置流程与本案例类似。RDS MySQL 实例。ECS上的自建数据库。通过专线、VPN网关或智能网关...
Oracle数据库的限制和准备工作
当您使用DTS传输Oracle的数据，或者将数据转储到Oracle数据库时，需要了解DTS支持的能力、功能限制和接入DTS的准备工作，以便您平稳地完成数据同步或迁移。数据库限制 自建 Oracle为源 限制项 说明 支持的版本 支持10g、11g、12c、18c、19c...
PolarDB-X 2.0间的双向同步
如为增量同步任务，DTS要求源数据库的本地Binlog日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因无法获取...
DROP DATABASE
DROP DATABASE语法用于删除指定的数据库。引擎与版本 DROP DATABASE语法适用于宽表引擎和时序引擎。宽表引擎仅2.2.16及以上版本支持DROP DATABASE语法。时序引擎无版本限制。语法 drop_database_statement:=DROP DATABASE[IF EXISTS]...
云原生内存数据库Tair间的双向同步
支持的双向同步架构 目前DTS仅支持两个Tair数据库之间的双向同步，暂不支持多个Tair数据库之间的双向同步。支持的SQL操作 APPEND BITOP、BLPOP、BRPOP、BRPOPLPUSH DECR、DECRBY、DEL EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT GEOADD、...
- 产品推荐
- 这些文档可能帮助您