ETL工具支持概览
dbsync：阿里云提供的开源数据库同步工具。支持从MySQL、PostgreSQL并发同步数据到 AnalyticDB PostgreSQL版。支持简单的数据转换。支持通过解析Binlog，准实时地从MySQL同步数据到 AnalyticDB PostgreSQL版。其他支持Greenplum的ETL工具。
离线同步任务调优
文档概述 同步速度受同步任务本身配置、数据库、网络等多方面影响，详情请参见：数据同步速度的影响因素。同步任务整体速度慢可能出现在同步过程的各个阶段，本文以现象入手，为您提供各个阶段运行慢的解决方案，详情请参见：数据同步慢的...
配置跨库Spark SQL节点
name，trade_date,COUNT(*)cnt,SUM(amt)amt FROM mysql_db.sales t1 JOIN oracle_db.users t2 ON t1.emp_id=t2.id WHERE t1.trade_date=${bizdate} GROUP BY t2.dept_name 功能特性 跨库数据处理：支持使用SQL语句操作不同数据库中的数据，...
技术架构
本文介绍全球数据库网络（Global Database Network，简称GDN）的技术架构。图 1.GDN架构 跨地域部署 ⼀个主集群（Primary），其他为从集群（Secondary)，多个 PolarDB 集群之间数据保持同步。说明 当前一个GDN中包含一个主集群和最多四个从...
PolarDB-X数据同步工具
兼容的数据同步工具 数据同步工具 兼容版本 说明 MySQL Slave>=5.4.11 目前不支持GTID模式复制 canal>=5.4.11 无 DTS>=5.4.11 具体操作步骤请参见 同步方案概览。debezium>=5.4.12 不支持快照能力，使用时需要关闭快照"snapshot.mode":...
SQL Server上云评估工具
背景信息 SQL Server上云评估工具Database Assessment Tool是一款用于对自建SQL Server数据库进行评估并给出上云评估报告的自动化工具，帮助您做好上云前的分析和准备工作。说明 关于MySQL、PostgreSQL、MariaDB的上云，请使用 DTS 工具。...
用户权限说明
数据传输迁移数据库前，请确保所有数据源已创建一个数据库用户作为迁移用户或同步用户。该用户需要具备源端和目标端数据源对应的权限。OceanBase 数据库 MySQL 租户作为源端的权限说明 OceanBase 数据库 MySQL 租户作为源端时，迁移/同步...
DescribeSynDbTables-查看同步数据库与表
查看同步数据库与表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...
将表格存储数据下载到本地文件
导出文件格式 操作方式 JSON 通过命令行工具直接下载 CSV 通过DataX工具直接下载 通过DataWorks工具同步数据到OSS后再下载 TEXT 通过DataWorks工具同步数据到OSS后再下载 通过命令行工具直接下载 通过命令行工具导出表中数据到本地JSON文件...
一键创建OSS数据仓库
本文介绍如何通过向导将RDS、PolarDB for MySQL、MongoDB数据库或者ECS自建数据库数据同步到OSS中，即创建OSS数据仓库（创建Schema）。操作步骤 登录 Data Lake Analytics管理控制台。在页面左上角，选择DLA所在地域。在左侧导航栏单击 ...
JDBC数据源
指定同步数据库 以下参数和指定同步数据库有关：only_specified_database：在通过JDBC连接时可以指定连接到哪个Database或Schema。如：MySQL的 jdbc_url 中可以指定Database，PostgreSQL的 jdbc_url 中可以指定currentSchema。include_...
数据迁移和同步方案概览
同步场景 同步工具 文档链接 实例间同步 DTS 云数据库MongoDB版（副本集架构）同步至云数据库MongoDB版（副本集架构或分片集群架构）云数据库MongoDB版（分片集群架构）间的双向同步 同步至新实例 不涉及 创建云上灾备实例 说明 更多信息，...
从RDS同步至自建Kafka集群
已创建 RDS MySQL实例 或 Serverless实例 注意事项 DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标...
从PolarDB MySQL版同步到Kafka
说明 如果源或目标数据库是阿里云数据库实例（例如 RDS MySQL、云数据库MongoDB版 等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见 DTS服务器的IP...
从PolarDB MySQL版同步到Kafka
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
Redis数据同步方案概览
场景 工具 配置案例 从自建库同步至云数据库Redis DTS 从自建Redis集群同步至Redis集群实例 从ECS上的自建Redis同步至Redis实例 从ECS上的Codis集群同步至Redis实例 从ECS上的Twemproxy Redis集群同步至Redis实例 云数据库Redis间同步 DTS ...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
使用生态工具消费PolarDB-X的binlog
使用同步工具消费 PolarDB-X 的binlog 说明 依托于MySQL复制协议的开放性，业界有很多基于MySQL binlog的数据同步生态工具，这些工具在很多行业和企业被广泛使用，PolarDB-X 针对这些工具进行了专门的适配测试，目前已验证的工具列表如下。...
产品优势
支持阿里云自主研发工具 云数据库MongoDB版进行数据迁移和同步时，不但可以通过控制台和MongoDB官方提供的工具实现，还可以通过阿里云自主研发的工具实现，具体如下：工具名称 说明 NimoShake 数据同步工具。您可以使用该工具将Amazon ...
数据集成概述
说明 以业务数据库数据同步到MaxCompute数据仓库为例，当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行...
MongoDB（无分片键）同步至MongoDB（分片集群架构）
说明 不支持增量同步在任务开始运行后新建的数据库，支持同步的增量更新如下：CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...
MongoDB（无分片键）同步至MongoDB（分片集群架构）
说明 不支持增量同步在任务开始运行后新建的数据库，支持同步的增量更新如下：CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...
配置匹配规则
数据同步项目中，仅 OceanBase 数据库 MySQL 租户至 AnalyticDB MySQL、RDS PostgreSQL 实例至 OceanBase 数据库 Oracle 租户 和 OceanBase 数据库 MySQL 租户之间的数据同步 支持通过配置通配规则的方式选择同步对象。在 选择迁移对象 ...
多主集群（库表）商业化
SaaS多租户场景：满足高并发性能需求，实现租户间负载均衡 场景特点：租户的数据库数量变化较快，负载变化较大，需要经常在不同的实例之间调配数据库资源，以便达到最佳用户体验。解决方案：多主集群（库表）可帮助客户秒级将租户的数据库...
查看或修改内外网地址和端口
查看内外网地址和端口 登录 云数据库专属集群控制台。在页面左上角，选择目标地域。在左侧导航栏选择 实例列表>MySQL。单击目标实例 操作 列 详情，然后选择其中一种方式查看内外网地址和端口。在 基本信息 区域单击 查看连接详情。说明 仅...
云数据库MongoDB版同步至云原生多模数据库Lindorm
数据传输服务DTS（Data Transmission Service）支持将MongoDB（副本集架构或分片集群架构）同步至云原生多模数据库Lindorm（宽表引擎）。Lindorm具有稳定、低成本、简单易用等优势，可以在元数据、订单、账单、画像、社交等场景中，为您...
使用MongoDB工具将MongoDB Atlas迁移至阿里云
您可以在本地设备或ECS实例中安装Mongodump和Mongorestore（也可以安装MongoDB数据库）工具，然后使用这些工具将MongoDB Atlas数据库迁移至阿里云数据库MongoDB。说明 本文以本地设备为例介绍操作流程。注意事项 确保安装的Mongodump和...
一键实时同步至Hologres
数据集成附加字段支持的变量字段如下：EXECUTE_TIME：执行时间 UPDATE_TIME：更新时间 DB_NAME_SRC：原始数据库名称 DB_NAME_SRC_TRANSED：转换后数据库名称 DATASOURCE_NAME_SRC：源端数据源名称 DATASOURCE_NAME_DEST：目的端数据源名称 ...
一键实时同步至AnalyticDB for MySQL 3.0
数据集成附加字段支持的变量字段如下：EXECUTE_TIME：执行时间 UPDATE_TIME：更新时间 DB_NAME_SRC：原始数据库名称 DB_NAME_SRC_TRANSED：转换后数据库名称 DATASOURCE_NAME_SRC：源端数据源名称 DATASOURCE_NAME_DEST：目的端数据源名称 ...
从ECS上的Twemproxy Redis集群同步至Redis实例
阿里云数据库Redis版是兼容开源Redis协议标准、提供内存加硬盘...本案例同步的数据库为DB0，通过 DMS登录Redis集群 后与源Twemproxy Redis集群进行对比，Key总数源Twemproxy Redis集群一致。图 1.阿里云Redis实例 图 2.源Twemproxy Redis集群
DescribeSynDbs-查看同步db
database SynStatus boolean 同步是否成功，取值说明：true：同步成功。false：同步失败。true ErrorMsg string 当 SynStatus 返回为 true 时，不返回该参数。当 SynStatus 返回为 false 时，表示同步失败的原因。ClickHouse exception,...
一站式HTAP服务
只有连接到指定数据库的会话才会默认启用该参数：ALTER DATABASE xxx SET polar_htap.enable_htap_query=ON;在用户级别开启HTAP查询 您可根据需要，对某个用户开启HTAP查询。只有以指定用户登录的会话才会默认启用该参数：ALTER ROLE xxx ...
一站式HTAP服务
只有连接到指定数据库的会话才会默认启用该参数：ALTER DATABASE xxx SET polar_htap.enable_htap_query=ON;在用户级别开启HTAP查询 您可根据需要，对某个用户开启HTAP查询。只有以指定用户登录的会话才会默认启用该参数：ALTER ROLE xxx ...
从Consul迁移到MSE Nacos
使用MSE Sync工具，您可以轻松地将Consul中的...请检查Consul中对应的服务状态健康检查是否通过，同步工具只会同步健康实例的数据。相关文档 如果您想了解更多MSE Sync工具的相关信息和其他迁移支持的注册中心类型，请参见 MSE Sync迁移方案。
查看或修改内外网地址和端口
在连接RDS实例时，您需要填写RDS的内外网地址和端口。本文将介绍如何在RDS控制台上查看RDS实例的内外网地址和端口，以及如何修改内外网地址和端口。修改内外网地址和端口 访问 RDS实例列表，在上方选择地域，然后单击目标实例ID。在左侧...
通过Mongo Shell管理数据库账号
Mongo Shell是MongoDB自带的数据库管理工具。云数据库MongoDB支持通过Mongo Shell管理数据库账号。本文介绍如何通过Mongo Shell创建和查询数据库账号。前提条件 已创建云数据库MongoDB实例。不同类型实例的创建方法如下：创建单节点实例 ...
创建自建数据库用户及授权
背景信息 自建 MySQL 数据库实例的类型包括 VPC 内自建数据库 和 公网 IP 自建数据库。本文创建的自建数据库用户，用于创建自建数据库实例类型的 MySQL 数据源时填写 用户名。创建自建数据库用户 在创建 MySQL 数据源时，您可以直接选择...
概述
支持的迁移类型 简称说明 实例类型 简称 RDS 实例 RDS PolarDB MySQL 实例 PolarDB VPC 内自建数据库 VPC 数据库网关（Database Gateway）DG 公网 IP 自建数据库 公网 OceanBase 数据库 MySQL 租户 OB_MySQL OceanBase 数据库 Oracle 租户 ...
整库离线同步至MaxCompute
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。同步任务支持的数据源及其配置详情请参见 支持的数据源及同步方案。说明 数据...
一键实时同步至DataHub
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。同步任务支持的数据源及其配置详情请参见 支持的数据源及同步方案。说明 数据...
- 产品推荐
- 这些文档可能帮助您