数据集成侧同步任务能力说明

说明 以业务数据库数据同步到MaxCompute数据仓库为例,当有大量的数据存储在数据库系统里,需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时,数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行...

RDS MySQL同步至ClickHouse集群

基于大宽表的聚合分析查询性能非常优异,比其他分析型数据库速度快一个数量级,通过数据传输服务DTS(Data Transmission Service),您可以将MySQL数据库(例如自建MySQL或RDS MySQL)同步至ClickHouse集群,帮助您轻松实现数据的流转,将...

云监控控制台查看监控

您可以查看各云服务的监控图表,了解资源的运行状况...MaterializeMySQL同步失败个数 使用MaterializeMySQL引擎创建的同步数据库同步失败个数。延迟Insert个数 延迟的插入语句个数。Kafka外表消费发生错误个数 同步失败的Kafka外表消费个数。

同步方案概览

源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为TiDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i(AS/400)...

功能特性

创建同步Fc 同步OSS 同步Datahub中的数据至OSS指定的文件对象中 创建同步OSS 同步TableStore 同步Datahub中的数据至TableStore指定的具体表中 创建同步TableStore 同步数据库 同步Datahub中的数据至RDS/MySQL/ADS3.0指定的具体表中 创建...

DescribeSynDbTables-查看同步数据库与表

查看同步数据库与表。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...

一键升级RDS MySQL X-Engine至PolarDB MySQL版

如为增量同步任务,DTS要求源数据库的本地Binlog日志保存24小时以上,如为全量同步和增量同步任务,DTS要求源数据库的本地Binlog日志至少保留7天以上(您可在全量同步完成后将Binlog保存时间设置为24小时以上),否则DTS可能因无法获取...

配置匹配规则

数据同步项目中,仅 OceanBase 数据库 MySQL 租户至 AnalyticDB MySQL、RDS PostgreSQL 实例至 OceanBase 数据库 Oracle 租户 和 OceanBase 数据库 MySQL 租户之间的数据同步 支持通过配置通配规则的方式选择同步对象。在 选择迁移对象 ...

ALIYUN:DTS:SynchronizationJob

String,"DBName":String }]SynchronizationObjects属性 属性名称 类型 必须 允许更新 描述 约束 TableExcludes List 否 否 待同步数据库不需要同步的表名。无 NewSchemaName String 否 否 待同步Schema在目标实例中映射的Schema名。无 ...

通过整迁移配置集成任务

离线整库迁移可用于将本地数据中心或在ECS上自建的数据库同步数据至大数据计算服务,包括MaxCompute、Hive、TDH Inceptor等数据源。本文为您介绍如何新建并配置整库迁移任务。前提条件 已完成所需迁移的数据源创建。整库迁移支持MySQL、...

支持的数据库

增量数据同步 单向同步 RDS MySQL同步至函数计算FC 云数据库SelectDB版 库表结构同步 全量数据同步 增量数据同步 单向同步 RDS MySQL同步至云数据库SelectDB版 源为PolarDB MySQL版的同步方案 重要 PolarDB-X 1.0中的数据库须基于RDS MySQL...

CREATE TABLE AS(CTAS)语句

连接器名称 源表 结果表 备注 MySQL√分库分表合并同步时,默认会同步上游存储的数据库名称和表名称。单表同步时,不会同步数据库名称和表名称。如果您需要同步数据库名称和表名称,请使用SQL命令创建Catalog,并添加catalog.table....

通过整迁移配置集成任务

离线整库迁移可用于将本地数据中心或在ECS上自建的数据库同步数据至大数据计算服务,包括MaxCompute、Hive、TDH Inceptor等数据源。本文为您介绍如何新建并配置整库迁移任务。前提条件 已完成所需迁移的数据源创建。整库迁移支持MySQL、...

触发仓库同步

100 代码ID Account String Query 否 test-account 远程同步库克隆账号 Token String Query 否 asd12e44827fe2444f952e931e51xxxx 远程同步库克隆令牌 返回数据 名称 类型 示例值 描述 ErrorMessage String 企业不存在 错误信息 ...

MongoDB(无分片键)同步至MongoDB(分片集群架构)

说明 不支持增量同步在任务开始运行后新建的数据库,支持同步的增量更新如下:CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...

数据库MongoDB版(副本集架构)同步至云数据库...

数据库 目标数据库数据库MongoDB版(副本集架构)云数据库MongoDB版(副本集架构、分片集群架构)ECS上的自建MongoDB数据库(副本集架构)ECS上的自建MongoDB数据库(副本集架构、分片集群架构)通过专线、VPN网关或智能网关接入的自...

数据库MongoDB版(分片集群架构)同步至云数据库...

任务步骤说明 同步类型 说明 库表结构同步 将源 云数据库MongoDB版 中同步对象的结构同步到目标 云数据库MongoDB版 中。全量同步 将源 云数据库MongoDB版 同步对象的存量数据全部同步到目标 云数据库MongoDB版 中。说明 支持全量同步...

数据库MongoDB版(副本集架构)间的双向同步

数据传输服务DTS(Data Transmission Service)支持 云数据库MongoDB版(副本集架构)间的双向同步。前提条件 已创建源和目标 云数据库MongoDB版(副本集架构)实例,创建方式,请参见 创建副本集实例。重要 支持的版本,请参见 同步方案...

数据库MongoDB版(分片集群架构)间的双向同步

数据传输服务DTS(Data Transmission Service)支持 云数据库MongoDB版(分片集群架构)间的双向同步,适用于异地多活(单元化)、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...

MongoDB(无分片键)同步至MongoDB(分片集群架构)

说明 不支持增量同步在任务开始运行后新建的数据库,支持同步的增量更新如下:CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...

数据库MongoDB版(副本集架构)同步至云数据库...

数据库 目标数据库数据库MongoDB版(副本集架构)云数据库MongoDB版(副本集架构、分片集群架构)ECS上的自建MongoDB数据库(副本集架构)ECS上的自建MongoDB数据库(副本集架构、分片集群架构)通过专线、VPN网关或智能网关接入的自...

数据库MongoDB版(分片集群架构)同步至云数据库...

任务步骤说明 同步类型 说明 库表结构同步 将源 云数据库MongoDB版 中同步对象的结构同步到目标 云数据库MongoDB版 中。全量同步 将源 云数据库MongoDB版 同步对象的存量数据全部同步到目标 云数据库MongoDB版 中。说明 支持全量同步...

数据库MongoDB版(分片集群架构)间的双向同步

数据传输服务DTS(Data Transmission Service)支持 云数据库MongoDB版(分片集群架构)间的双向同步,适用于异地多活(单元化)、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...

数据库MongoDB版(副本集架构)间的双向同步

数据传输服务DTS(Data Transmission Service)支持 云数据库MongoDB版(副本集架构)间的双向同步。前提条件 已创建源和目标 云数据库MongoDB版(副本集架构)实例,创建方式,请参见 创建副本集实例。重要 支持的版本,请参见 同步方案...

数据库MongoDB版同步至云原生多模数据库Lindorm

数据传输服务DTS(Data Transmission Service)支持将MongoDB(副本集架构或分片集群架构)同步至云原生多模数据库Lindorm(宽表引擎)。Lindorm具有稳定、低成本、简单易用等优势,可以在元数据、订单、账单、画像、社交等场景中,为您...

TriggerRepositoryMirrorSync-触发仓库同步

代码 ID 100 account string 否 远程同步库克隆账号 test-account token string 否 远程同步库克隆令牌 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 返回参数 名称 类型 描述 示例值 object errorMessage string 错误信息 企业不存在 ...

DescribeSynDbs-查看同步db

database SynStatus boolean 同步是否成功,取值说明:true:同步成功。false:同步失败。true ErrorMsg string 当 SynStatus 返回为 true 时,不返回该参数。当 SynStatus 返回为 false 时,表示同步失败的原因。ClickHouse exception,...

快速入门

支持存储,查询,同步 JSON 数据对象,以及监听数据对象的变更 NoSQLDatabase 为开发者解决应用数据同步的问题,开发者只需要关注本地数据库读写,NoSQLDatabase 数据库会自动将数据实时同步至云端/多端 1.2 数据结构 NoSQLDatabase 支持存储 ...

数据同步方案概览

源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i(AS/400)的同步方案 源为数据...

DeleteSyndb-删除同步任务

cc-bp158i5wvj436*SynDb string 是 云数据库 RDS MySQL 的数据库database 返回参数 名称 类型 描述 示例值 object 返回结果。RequestId string 请求 ID。2C7393F1-5FD1-5CEE-A2EA-270A2CF99693 Status boolean 删除是否成功,取值说明:...

通过Flink导入数据

数据库 SelectDB 版 兼容Apache Doris,支持通过Flink Doris Connector,将Kafka中的非结构化数据以及MySQL等上游业务数据库中的变更数据,实时同步到 云数据库 SelectDB 版 中,有效地满足海量数据的分析需求。功能介绍 Flink Doris ...

数据同步流程

您已为源端和目标端创建专用于数据同步数据库用户,并赋予其相关权限。详情请参见 创建数据库用户。新建数据源。在 数据传输>管理数据源 页面,分别新建源端和目标端的数据源。详情请参见 新建数据源 模块的文档。购买数据同步项目。根据...

数据同步方案概览

数据同步 使用场景 文档链接 PolarDB 间的数据同步 PolarDB MySQL集群间的单向同步 PolarDB MySQL集群间的双向同步 PolarDB 与其它数据库的数据同步 RDS MySQL同步至PolarDB MySQL集群 PolarDB MySQL同步至RDS MySQL 从PolarDB MySQL同步至...

数据同步操作指导

背景知识 同步方案概览 介绍数据同步功能支持的数据库同步初始化类型和同步拓扑,以及配置步骤。结构初始化涉及的数据类型映射关系 由于不同的数据库支持的数据类型不一样,数据类型无法完全对应。DTS在执行结构初始化时,会根据目标库...

从ECS上的自建MySQL同步至RDS

为避免该问题,您可以在数据同步配置时将该表所属的整个数据库作为同步对象,且确保RENAME TABLE操作前后的表所属的数据库均在同步对象中。TRUNCATE TABLE 功能限制 不兼容触发器 当同步对象为整个库,且库中的触发器(TRIGGER)会更新库内...

Redis数据同步方案概览

场景 工具 配置案例 从自建库同步至云数据库Redis DTS 从自建Redis集群同步至Redis集群实例 从ECS上的自建Redis同步至Redis实例 从ECS上的Codis集群同步至Redis实例 从ECS上的Twemproxy Redis集群同步至Redis实例 云数据库Redis间同步 DTS ...

从ECS上的自建SQL Server同步至云原生数据仓库...

GO 参数说明:<database_name>:待同步数据库名。示例:use master;GO ALTER DATABASE mytestdata SET RECOVERY FULL WITH ROLLBACK IMMEDIATE;GO 执行如下命令,将待同步数据库进行逻辑备份。如您已进行过逻辑备份,可跳过本步骤。...

如何迁移到DBFS?

一般存在以下几种常用的方式:主备同步:搭建主备库,通过binary log同步数据到自建于DBFS上的数据库。DTS:使用阿里云产品DTS,将数据迁移到自建于DBFS上的数据库。备份恢复:通过备份的方式,将数据库恢复到DBFS上,拉起数据库同步最新...

RDS MySQL实例间的单向同步

数据传输服务DTS(Data Transmission Service)支持两个MySQL数据库之间的数据同步,本文以RDS MySQL实例之间的单向同步为例,介绍配置流程。前提条件 数据同步的源RDS实例和目标RDS实例已存在,详情请参见 创建RDS实例。源RDS实例和目标...

自建PostgreSQL同步到云原生数据仓库AnalyticDB ...

注意事项 一个数据同步作业只能同步一个数据库,如果有多个数据库需要同步,则需要为每个数据库创建数据同步作业。在数据同步的过程中,如果要将源库中创建的新表作为同步对象,您需要对该表执行如下操作以保障该表数据同步的一致性。ALTER...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
数据库备份 DBS 云数据库 RDS 云数据库 Redis 版 云数据库 MongoDB 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用