数据导入与迁移
RDS增量数据同步 通过BDS数据同步服务可以将RDS增量数据实时同步到HBase增强版中，使用说明：开通 LTS服务。在BDS中添加HBase增强版集群关联，具体操作方法参见 添加HBase增强版数据。请参见 RDS全增量同步 完成配置。HBase迁移至HBase增强...
下载和导入同步对象配置
登录 OceanBase 管理控制台，购买数据同步项目。详情请参见 购买数据同步项目。在 数据传输>数据同步 页面，单击新购买的数据同步项目后的 配置。根据业务需求，配置相应的数据同步项目。在 选择同步对象 页面 选择同步范围 的右侧列表，...
离线同步能力说明
离线同步模块仅支持单表或分库分表数据离线同步至目标端单表，若您需要将多库多表数据同步至目标端多表，您可使用 同步解决方案 中的整库离线同步。更多关于同步方案选择，请参见：选择同步方案概述。离线同步任务配置 您可以通过以下方式...
同步时源库为PostgreSQL的注意事项及限制
如果同步的源数据库类型为PostgreSQL，如RDS PostgreSQL、自建PostgreSQL，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为PostgreSQL的同步方案概览 根据同步方案，查看同步任务的注意...
流式数据通道概述
MaxCompute流式数据通道服务功能点如下：提供流式语义API：通过流式服务的API可以方便地开发出分布式数据同步服务。支持自动创建分区：解决数据同步服务并发创建分区导致的并发抢锁问题。支持增量数据异步聚合（Merge）：提升数据存储效率...
同步日志
理论上，当一次操作导致多条数据同步时，IDaaS 会将该批次同步结果聚合为【任务】，方便查看执行状态和结果。触发任务记录的事件 触发模块 记录任务的情况 只有日志的情况 身份提供方 IdP 从 IdP 批量导入（定时/手动）一次性全量同步到...
查询一个或多个同步实例状态
调用DescribeSynchronizationJobStatusList查询一个或多个数据同步实例同步状态。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否...
概述
DataHub数据同步功能 DataHub提供数据Sink/Source功能，即数据同步功能，DataHub支持将对应Topic中的数据 实时/准实时 的同步到第三方阿里云产品中，打通阿里云产品间的数据流通。目前支持MaxCompute（原ODPS）、分析型数据库MySQL(ADS)、...
通过标签管理数据同步项目
创建数据同步项目后，您可以通过标签功能实现对数据同步项目的管理，快速筛选目标项目。本文为您介绍数据传输如何通过标签功能实现对数据同步项目的管理。使用限制 每个数据同步项目最多支持添加 4 个标签。所有数据同步项目的标签总数不得...
结构同步
数据管理DMS 的结构同步功能支持对比不同数据库、指定表之间的表结构，产生差异化脚本并执行到目标数据库。适用于对比、同步多套数据库环境的表结构，例如生产库与测试库、不同的测试库、不同的生产库等。前提条件 支持的数据库类型如下：...
数据集成侧同步任务能力说明
背景信息 实际业务场景下，数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个 离线同步、实时同步 和 数据处理 等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。为了解决上述问题，DataWorks提出...
产品优势
本文介绍数据同步服务具有哪些产品优势。非侵入，对生产系统影响小 数据同步服务不建触发器，不在源表查询，而是实时读取数据库 binlog 日志，实现数据的实时复制，对源端库无压力。高性能 数据同步服务使用高规格服务器来保证同步链路的...
日志服务通过数据集成投递数据
背景信息 日志服务支持以下数据同步场景：跨地域的LogHub与MaxCompute等数据源的数据同步。不同阿里云账号下的LogHub与MaxCompute等数据源间的数据同步。同一阿里云账号下的LogHub与MaxCompute等数据源间的数据同步。公共云与金融云账号下...
离线同步日志分析
后置准备 系统将根据您的配置，将后置SQL下发数据库执行，但并非所有任务都存在后置准备：以MySQL Writer为例，若您任务的配置了PostSQL，即配置了数据同步执行后需要执行的SQL语句时，该SQL将在此阶段下发至数据库执行。PostSQL在数据库的...
入湖基础操作
SLS日志实时入湖：可以实现阿里云日志服务SLS数据实时同步到数据湖，您可以选择当前账号下的SLS Project，该Project下对应的Log Store，实时的将数据同步到数据湖中。表格存储（TableStore）实时入湖：可以实现将阿里云表格存储TableStore...
购买数据同步项目
本文为您介绍如何购买云数据库 OceanBase 数据传输服务提供的数据同步项目。背景信息 目前数据同步项目仅支持预付费模式，即包年包月计费模式。您可以根据本文操作购买相应类型的数据同步项目后，再对项目进行具体配置和管理。数据同步项目...
同步任务的注意事项及限制
为保障数据同步任务的正常运行，DTS对不同的数据库存在使用上的限制。概览 根据同步任务的源库类型，查看其注意事项及限制：源库为MySQL的注意事项及限制 源库为PolarDB MySQL的注意事项及限制 源库为PolarDB-X 2.0的注意事项及限制 源库为...
通过DataWorks数据集成迁移日志数据至MaxCompute
背景信息 日志服务支持以下数据同步场景：跨地域的LogHub与MaxCompute等数据源的数据同步。不同阿里云账号下的LogHub与MaxCompute等数据源间的数据同步。同一阿里云账号下的LogHub与MaxCompute等数据源间的数据同步。公共云与金融云账号下...
同步方案概览
数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、云BI及实时数据仓库等多种业务场景。本文将介绍数据同步功能支持的数据库、同步类型和同步拓扑。说明 数据同步在某些...
离线同步数据质量排查
背景信息 讲述数据集成数据同步的原理机制，理解数据同步的过程，进而对数据同步的执行效果有判断能力，判断数据同步效果具体包括：数据同步的数据量、目标端数据实际数量等。同步原理 DataWorks数据集成的同步任务在执行时称之为一个Job，...
数据同步方案概览
数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、云BI及实时数据仓库等多种业务场景。本文将介绍数据同步功能支持的数据库、同步类型和同步拓扑。收费策略 DTS数据同步...
创建与释放全球多活数据库集群
执行数据同步前需评估源库和目标库的性能，同时建议业务低峰期执行数据同步。否则全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升。全量初始化会并发执行INSERT操作，导致目标数据库的表产生碎片，因此全量...
通过DataWorks实现MaxCompute跨项目迁移
本例中，需要补数据的日期分区为2019年6月11日到17日，您可以直接选择业务日期，进行多个分区的数据同步。完成设置后，单击 确定。说明 您可以根据自己的业务需求，设置业务日期。在 周期任务运维>补数据实例 页面，您可以查看补数据实例...
离线同步任务调优
本文为您介绍影响数据同步速度的因素、如何通过调整同步任务的并发配置来实现同步速度最大化、作业的限速选项，以及数据同步过慢的场景。文档概述 同步速度受同步任务本身配置、数据库、网络等多方面影响，详情请参见：数据同步速度的影响...
使用DataWorks
如果您需要导出多张表数据，需要创建多个离线数据同步节点。操作流程 通过数据集成导出MaxCompute数据的流程如下：添加MaxCompute数据源 将MaxCompute数据源添加至DataWorks的数据源列表。添加目标数据源 将目标数据源添加至DataWorks的...
全球多活使用限制
一个分布式实例中的子实例必须都在中国内地或都在其他地域，若您需要在中国内地地域与其他地域之间进行数据同步，请使用DTS数据同步功能，更多信息请参见 申请跨境数据同步权限。成为分布式实例的子实例后，存在如下限制：不支持变更 实例...
全球多活使用限制
一个分布式实例中的子实例必须都在中国内地或都在其他地域，若您需要在中国内地地域与其他地域之间进行数据同步，请使用DTS数据同步功能，更多信息请参见 申请跨境数据同步权限。成为分布式实例的子实例后，存在如下限制：不支持变更 实例...
支持的数据源
类别 数据源 导入方式 文档链接 消息队列 Kafka 数据同步 通过数据同步功能同步Kafka至湖仓版（推荐）日志类数据 日志服务（SLS）数据同步 通过数据同步功能同步SLS至湖仓版（推荐）大数据 Hive 数据迁移 Hive数据导入 相关文档 AnalyticDB...
实时同步常见问题
如果选择忽略TRUNCATE，可能会导致进行实时数据同步时出现多的数据。如何提高实时同步的速度和性能？如果同步写入速度较慢，可以适当增加写入端并发数，调整JVM参数，JVM参数与同步库数量无关，和变更频率有关。在当前资源组机器允许情况下...
数据同步方案概览
云原生关系型数据库PolarDB 提供了多种数据同步方案，可满足不同的业务同步需求，使您可以在不影响业务的情况下平滑的实现引擎间的数据同步。通过使用阿里云 数据传输服务（DTS），您可以实现 PolarDB 的实时同步。数据同步 使用场景 文档...
配置Oracle输入组件
多表：适用于将多个表的业务数据同步至同一个目标表的场景。多个表的数据写入同一个数据表时，使用union算法。更多union说明，请参见 交集（INTERSECT）、并集（UNION）和补集（EXCEPT）。表 选择数据同步的来源表：如果 来源表量 选择了 ...
配置AnalyticDB for PostgreSQL输入组件
同步AnalyticDB for PostgreSQL数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for PostgreSQL输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for PostgreSQL输入组件。操作步骤 请...
新增多表实时任务
数据同步支持实时任务新增多表任务，并支持一键启动多个上云任务，实现全量任务自动建表。本文介绍如何新增多表实时任务。前提条件 已新建Oracle和DataHub数据源，请参见 新建数据源。说明 当前仅支持Oracle LogMiner（11G）到DataHub多表...
配置Oracle输入组件
多表：适用于将多个表的业务数据同步至同一个目标表的场景。多个表的数据写入同一个数据表时，使用union算法。表 选择数据同步的来源表：如果 来源表量 选择了 单表，在下拉列表中选择读取数据的表。如果 来源表 选择了 多表，则按照下图...
新增多表实时任务
数据同步支持实时任务新增多表任务，并支持一键启动多个上云任务，实现全量任务自动建表。本文介绍如何新增多表实时任务。前提条件 已新建Oracle和DataHub数据源，请参见 新建数据源。说明 当前仅支持Oracle LogMiner（11G）到DataHub多表...
配置ClickHouse输入组件
多表：适用于将多个表的业务数据同步至同一个目标表的场景。多个表的数据写入同一个数据表时，使用union算法。更多union说明，请参见 交集（INTERSECT）、并集（UNION）和补集（EXCEPT）。表 选择数据同步的来源表：如果 来源表量 选择了 ...
配置AnalyticDB for PostgreSQL输入组件
同步AnalyticDB for PostgreSQL数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for PostgreSQL输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for PostgreSQL输入组件。前提条件 在...
配置ClickHouse输入组件
多表：适用于将多个表的业务数据同步至同一个目标表的场景。多个表的数据写入同一个数据表时，使用union算法。更多union说明，请参见 交集（INTERSECT）、并集（UNION）和补集（EXCEPT）。表 选择数据同步的来源表：如果 来源表量 选择了 ...
使用DataWorks（离线与实时）
场景3：导入其他数据源数据至MaxCompute 同步能力说明 DataWorks 数据集成 支持将其他数据源的数据同步至MaxCompute，例如将RDS等数据库的数据同步至MaxCompute，针对不同的同步场景，数据同步原理与能力支持不一致。DataWorks离线同步为您...
配置PolarDB输入组件
多表：适用于将多个表的业务数据同步至同一个目标表的场景。多个表的数据写入同一个数据表时，使用union算法。表 选择数据同步的来源表：如果 来源表量 选择了 单表，在下拉列表中选择读取数据的表。如果 来源表 选择了 多表，则按照下图...
- 产品推荐
- 这些文档可能帮助您