ETL工具支持概览
dbsync：阿里云提供的开源数据库同步工具。支持从MySQL、PostgreSQL并发同步数据到 AnalyticDB PostgreSQL版。支持简单的数据转换。支持通过解析Binlog，准实时地从MySQL同步数据到 AnalyticDB PostgreSQL版。其他支持Greenplum的ETL工具。
Attu工具管理
Attu是一款专为Milvus向量数据库打造的开源数据库管理工具，提供了便捷的图形化界面，极大地简化了对Milvus数据库的操作与管理流程。阿里云Milvus集成了Attu，以便更加高效地管理数据库、集合（Collection）、索引（Index）和实体（Entity...
在EMR上使用Sqoop与数据库同步数据时的网络配置
如果您的E-MapReduce（EMR）集群需要和集群之外的数据库同步数据，确保网络是联通的。本文以RDS、ECS自建和云下私有数据库三种情况为例，分别介绍如何配置网络。云数据库RDS Sqoop是用map任务同步数据，可以在任意节点上运行，而Sqoop任务...
Db2 for LUW同步至PolarDB-X 2.0
数据传输服务DTS（Data Transmission Service）支持将 Db2 for LUW 数据库同步至 PolarDB分布式版。前提条件 已创建源 Db2 for LUW 数据库和目标 PolarDB分布式版 实例，支持的版本，请参见 同步方案概览。说明 PolarDB分布式版 需兼容...
2020年
通过CEN实现本地IDC与DTS云服务互通 2020年4月 DTS支持将数据库网关DG（Database Gateway）中接入的本地或第三方云的数据库作为源库或目标库。通过数据库网关将本地IDC或第三方云的数据库接入至阿里云 支持阿里云Redis企业版实例间的单向或...
从PolarDB MySQL版同步到Kafka
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
数据集成侧同步任务能力说明
说明 以业务数据库数据同步到MaxCompute数据仓库为例，当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行...
同步方案概览
源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为TiDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i（AS/400）...
数据迁移和同步方案概览
同步场景 同步工具 文档链接 实例间同步 DTS 云数据库MongoDB版（副本集架构）同步至云数据库MongoDB版（副本集架构或分片集群架构）云数据库MongoDB版（分片集群架构）间的双向同步 同步至新实例 不涉及 创建云上灾备实例 说明 更多信息，...
Hudi概述
您可以实时摄取消息队列（Kafka）和日志服务SLS等日志数据至Hudi中，同时也支持实时同步数据库Binlog产生的变更数据。Hudi优化了数据写入过程中产生的小文件。因此，相比其他传统的文件格式，Hudi对HDFS文件系统更加的友好。近实时数据分析...
迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL ...
TiCDC 是 TiDB 数据库的增量数据同步工具，通过 PD 集群（TiDB 集群的调度模块，通常由 3 个 PD 节点构成）来实现高可用。TiKV Server 是 TiDB 集群中的 TiKV 节点，它会以变更日志的方式主动发送变更数据至 TiCDC 集群。TiCDC 工具会通过...
产品优势
支持阿里云自主研发工具 云数据库MongoDB版进行数据迁移和同步时，不但可以通过控制台和MongoDB官方提供的工具实现，还可以通过阿里云自主研发的工具实现，具体如下：工具名称 说明 NimoShake 数据同步工具。您可以使用该工具将Amazon ...
MongoDB（无分片键）同步至MongoDB（分片集群架构）
说明 不支持增量同步在任务开始运行后新建的数据库，支持同步的增量更新如下：CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...
云数据库MongoDB版（副本集架构）同步至云数据库...
源数据库 目标数据库 云数据库MongoDB版（副本集架构）云数据库MongoDB版（副本集架构、分片集群架构）ECS上的自建MongoDB数据库（副本集架构）ECS上的自建MongoDB数据库（副本集架构、分片集群架构）通过专线、VPN网关或智能网关接入的自...
云数据库MongoDB版（分片集群架构）同步至云数据库...
任务步骤说明 同步类型 说明 库表结构同步 将源 云数据库MongoDB版 中同步对象的结构同步到目标 云数据库MongoDB版 中。全量同步 将源 云数据库MongoDB版 同步对象的存量数据全部同步到目标 云数据库MongoDB版 中。说明 支持全量同步...
云数据库MongoDB版（分片集群架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（分片集群架构）间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...
云数据库MongoDB版（副本集架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（副本集架构）间的双向同步。前提条件 已创建源和目标 云数据库MongoDB版（副本集架构）实例，创建方式，请参见 创建副本集实例。重要 支持的版本，请参见 同步方案...
MongoDB（无分片键）同步至MongoDB（分片集群架构）
说明 不支持增量同步在任务开始运行后新建的数据库，支持同步的增量更新如下：CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...
云数据库MongoDB版（分片集群架构）同步至云数据库...
任务步骤说明 同步类型 说明 库表结构同步 将源 云数据库MongoDB版 中同步对象的结构同步到目标 云数据库MongoDB版 中。全量同步 将源 云数据库MongoDB版 同步对象的存量数据全部同步到目标 云数据库MongoDB版 中。说明 支持全量同步...
云数据库MongoDB版（分片集群架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（分片集群架构）间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...
云数据库MongoDB版（副本集架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（副本集架构）间的双向同步。前提条件 已创建源和目标 云数据库MongoDB版（副本集架构）实例，创建方式，请参见 创建副本集实例。重要 支持的版本，请参见 同步方案...
数据同步方案概览
源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i（AS/400）的同步方案 源为数据...
迁移StarRocks数据至EMR Serverless StarRocks
由于源集群的数据可能会持续更新，同步工具会在接下来的检查周期中启动新的数据同步任务。因此，在下一周期的进度检查后，显示的进度百分比可能会下降，例如可能从100%减少到90%。以下是与进度相关的参数详情。参数 说明 total 此次数据...
数据同步流程
您已为源端和目标端创建专用于数据同步的数据库用户，并赋予其相关权限。详情请参见 创建数据库用户。新建数据源。在 数据传输>管理数据源 页面，分别新建源端和目标端的数据源。详情请参见 新建数据源 模块的文档。购买数据同步项目。根据...
使用NimoShake将Amazon DynamoDB迁移至阿里云
NimoShake（又名DynamoShake）是阿里云研发的数据同步工具，您可以借助该工具将Amazon DynamoDB数据库迁移至阿里云。前提条件 已经创建阿里云MongoDB实例，详情请参见 创建副本集实例 或 创建分片集群实例。背景信息 本文档主要介绍...
注意事项
使用实例前，请设置好磁盘空间报警。...请勿使用开源HBCK工具 开源HBCK通过对比meta表和HDFS上的meta文件对集群状态进行检查，但是云数据库HBase不开放HDFS端口，如果使用开源HBCK工具会造成实例meta信息异常实例不可用。
数据同步方案概览
数据同步 使用场景 文档链接 PolarDB 间的数据同步 PolarDB MySQL集群间的单向同步 PolarDB MySQL集群间的双向同步 PolarDB 与其它数据库的数据同步 RDS MySQL同步至PolarDB MySQL集群 PolarDB MySQL同步至RDS MySQL 从PolarDB MySQL同步至...
DescribeSynDbs-查看同步db
database SynStatus boolean 同步是否成功，取值说明：true：同步成功。false：同步失败。true ErrorMsg string 当 SynStatus 返回为 true 时，不返回该参数。当 SynStatus 返回为 false 时，表示同步失败的原因。ClickHouse exception,...
自建PostgreSQL同步到云原生数据仓库AnalyticDB ...
注意事项 一个数据同步作业只能同步一个数据库，如果有多个数据库需要同步，则需要为每个数据库创建数据同步作业。在数据同步的过程中，如果要将源库中创建的新表作为同步对象，您需要对该表执行如下操作以保障该表数据同步的一致性。ALTER...
RDS PostgreSQL同步至AnalyticDB for PostgreSQL
注意事项 一个数据同步作业只能同步一个数据库，如果有多个数据库需要同步，则需要为每个数据库创建数据同步作业。在数据同步的过程中，如果要将源库中创建的新表作为同步对象，您需要对该表执行如下操作以保障该表数据同步的一致性。ALTER...
从RDS PostgreSQL同步至云原生数据仓库AnalyticDB ...
注意事项 一个数据同步作业只能同步一个数据库，如果有多个数据库需要同步，则需要为每个数据库创建数据同步作业。在数据同步的过程中，如果要将源库中创建的新表作为同步对象，您需要对该表执行如下操作以保障该表数据同步的一致性。ALTER...
查看数据同步项目的详情
平均执行时间、平均提交时间 重要 仅同步 OceanBase 数据库 MySQL 租户的数据至 AnalyticDB MySQL，以及同步 OceanBase 数据库的数据至 OceanBase 数据库时进行统计。平均执行时间：每条 SQL 执行时间的均值，单位为 ms。平均提交时间：...
Ranger概述
Ranger UserSync Ranger提供了一个用户同步工具。您可以从Unix或者LDAP中拉取用户和用户组的信息。这些用户和用户组的信息被存储在Ranger Admin的数据库中，可以在定义策略时使用。访问Ranger UI 添加8443端口，具体操作请参见 添加安全组...
使用OpenAPI
本文为您介绍使用开源大数据平台E-MapReduce OpenAPI的基本信息。关于使用阿里云OpenAPI的详细介绍，请参见 使用OpenAPI。基本信息 版本说明 版本号 说明 2021-03-20 推荐使用。接入点说明 根据实例所在的地域，选择对应的服务接入点地址，...
Redis企业版实例间的双向同步
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
迁移MySQL或Doris数据到StarRocks
使用DataX同步数据 DataX介绍 DataX是阿里巴巴集团内被广泛使用的离线数据同步工具，实现了包括MySQL、Oracle、OceanBase、SqlServer、PostgreSQL、HDFS、Hive、ADS、HBase、TableStore（OTS）、MaxCompute（ODPS）、Hologres、DRDS等各种...
使用DTS同步RDS MySQL数据到AnalyticDB MySQL 2.0
本文以RDS MySQL数据源为例，介绍如何通过DTS将RDS MySQL数据实时同步至 AnalyticDB MySQL版 2.0 中。前提条件 根据 RDS MySQL快速入门，准备好测试...进入 AnalyticDB MySQL版控制台，在 ads_DataBase 数据库中可以查看到同步过来的数据表。
RDS PostgreSQL间的单向同步
其他限制 单个数据同步任务只能同步一个数据库，如需同步多个数据库，您需要为每个数据库配置数据同步任务。同步期间，如果同步对象的选择粒度为Schema，在待同步的Schema中创建了新的表或使用RENAME命令重建了待同步的表，您需要在对该表...
RDS PostgreSQL间的双向同步
数据传输服务DTS（Data Transmission Service）支持两个PostgreSQL数据库之间（比如RDS PostgreSQL、自建PostgreSQL）的双向数据实时同步，RDS PostgreSQL 实例间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。...
从自建Redis集群同步至Redis集群实例
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
- 产品推荐
- 这些文档可能帮助您