数据迁移与同步FAQ
本文为您列出数据迁移与数据同步的常见问题和相关解答。什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：...
配置数据层
COPY 同步延迟策略 同步延迟策略在执行切流时生效：无：数据保护规则上的同步链路在切流时的同步位点时间没有追赶上切流配置生效时间，不禁止对该实例分组下的写操作SQL语句。禁止写入：数据保护规则上的同步链路在切流时的同步位点时间...
配置数据层
异地应用双活 同步延迟策略 同步延迟策略在执行切流时生效：无：数据保护规则上的同步链路在切流时的同步位点时间没有追赶上切流配置生效时间，不禁止对该实例分组下的写操作SQL语句。禁止写入：数据保护规则上的同步链路在切流时的同步...
MySQL整库周期性增全量同步至Hive
本文以MySQL为源端，Hive为目标端场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到Hive。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以Hive作为...
方案概述
如为增量同步任务，DTS要求源数据库的WAL日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的WAL日志至少保留7天以上（您可在全量同步完成后将WAL日志保存时间设置为24小时以上），否则DTS可能因无法获取WAL日志而导致任务...
MySQL整库周期性增全量同步至MaxCompute
本文以MySQL离线同步写入MaxCompute场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以...
同步时源库为PostgreSQL的注意事项及限制
源库为PostgreSQL的同步方案概览 根据同步方案，查看同步任务的注意事项及限制：说明 DTS默认同步到目标数据库中时会取消外键约束，因此源数据库的级联、删除等操作不会同步到如下目标数据库：RDS PostgreSQL 云原生数据仓库AnalyticDB ...
PolarDB PostgreSQL版（兼容Oracle）集群间的单向同步
如果目标数据库中有同名的表，则在预检查阶段提示错误，数据同步作业不会被启动。说明 如果目标库中同名的表不方便删除或重命名，您可以 设置同步对象在目标实例中的名称 来避免表名冲突。忽略报错并继续执行：跳过目标数据库中是否有同名...
创建同步任务
本文为您介绍如何通过创建同步任务，导出MaxCompute中的数据至MySQL数据源中。前提条件 已通过RDS创建MySQL实例，获取RDS实例ID，并在RDS控制台添加白名单。详情请参见 快速创建RDS MySQL实例 和 添加白名单。说明 如果是通过自定义资源组...
Hologres整库周期性增全量同步至MaxCompute
本文以Hologres离线同步写入MaxCompute场景为例，为您介绍如何把Hologres整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以Hologres作为来源...
AnalyticDB for MySQL3.0整库周期性增全量同步至...
本文以AnalyticDB for MySQL3.0离线同步写入Hologres场景为例，为您介绍如何把AnalyticDB for MySQL3.0整个数据库的数据离线同步到Hologres。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。...
支持的数据库
全量数据同步 增量数据同步 单向同步 RDS MySQL同步至自建Oracle PolarDB-X 1.0 全量数据同步 增量数据同步 单向同步 从RDS MySQL同步至PolarDB-X PolarDB-X 2.0 库表结构同步 全量数据同步 增量数据同步 单向同步 RDS MySQL同步至PolarDB-...
从PolarDB PostgreSQL版（兼容Oracle）集群同步至自建...
为保障同步延迟时间展示的准确性，DTS会在源库中新增一个表，表名为 dts_postgres_heartbeat，结构及内容如下图所示。若源库有长事务，且实例包含增量同步任务，则可能会导致源库长事务提交前的预写日志WAL（Write-Ahead Logging）无法清理...
管理时间同步服务
时间同步服务简介 时间同步服务用于与NTP服务器同步时间以确保ECS实例时间准确，它是基于网络时间协议（Network Time Protocol，简称NTP）实现的。阿里云ECS实例会默认运行Chrony或者NTP服务进行时间同步。关于时间同步服务的更多信息请...
查看数据同步项目的详情
平均写入时间 同步 OceanBase 数据库的数据至 DataHub、Kafka 时，统计的是平均写入时间。平均执行时间、平均提交时间 重要 仅同步 OceanBase 数据库 MySQL 租户的数据至 AnalyticDB MySQL，以及同步 OceanBase 数据库的数据至 OceanBase ...
低成本跨境文件传输
对文件同步延时不敏感，能接受一定程度上网络抖动带来同步文件时的延迟。希望传输数据的系统有足够的弹性和扩展性应对大规模文件的写入。方案简介 云服务器模拟应用访问华东2（上海）和美国（硅谷）的对象存储，负责内容的制作和上传。内容...
API 引入数据概览
内容引入模块支持标准的 API 内容引入，提供标准的内容引入协议，支持多源、多类型的内容快速入库。内容中台获取内容后，会进行数据校验及数据清洗，实现内容入库和缺失字段补齐。...同步成功率：成功引入的内容量在总引入内容量中的占比。
出错提示S3磁盘分区数据同步出错
本文主要介绍在使用SMC迁移时，迁移任务出错提示“S3磁盘分区数据同步出错”的问题描述、问题原因及其解决方案。问题描述 在SMC迁移时，迁移任务出错提示“S3_*磁盘分区数据同步出错”。其中S3_*可能的错误码如下：S3_F30 S3_F32 S3_F6 S3_...
出错提示S9磁盘分区头数据同步出错
本文主要介绍在使用SMC迁移时，迁移任务出错提示“S9_*磁盘分区头数据同步出错”的问题描述、问题原因及其解决方案。问题描述 在SMC迁移时，迁移任务出错提示“S9_*磁盘分区头数据同步出错”。其中S9_*可能的错误码如下：S9_F4 S9_F40 问题...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
手工触发同步
概述 手动触发同步：可以实现辅助DNS主动...注意：辅助DNS中的解析记录更新，一般是由主DNS发送NOTIFY来触发解析数据同步，或者是根据主DNS设置的刷新时间来触发解析数据同步（指时间到期则触发）。操作步骤 登录 控制台 点击 连接主DNS 按钮
同步时源库为Db2 for LUW的注意事项及限制
说明 如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志...
手动触发同步
注意：辅助DNS中的解析记录更新，一般是由主DNS发送NOTIFY来触发解析数据同步，或者是根据主DNS设置的刷新时间来触发解析数据同步（指时间到期则触发）。操作步骤 登录 云解析DNS产品控制台。左侧导航栏选择 辅助DNS 菜单，再选择 内网域名...
增加或删除已运行任务的同步表
同步数据至Kafka解决方案为您提供了一键增加及删除同步表功能，方便您为已成功配置运行的同步任务快速添加新表或删除已有同步表。本文为您介绍如何增加或删除已运行任务的同步表。前提条件 已创建并运行同步数据至Kafka解决方案的任务，...
场景：配置增量数据离线同步任务
离线同步任务支持您通过配置类似的数据过滤功能来决定同步全量数据还是增量数据，配置过滤条件时，将只同步满足过滤条件的数据。同时，过滤条件可以结合调度参数使用，实现过滤条件随任务调度时间的动态变化，进而实现增量数据的同步。该...
MaxCompute数据离线同步至ClickHouse
本文以MaxCompute离线同步写入ClickHouse场景为例，为您介绍ClickHouse离线同步在数据源配置、网络联通、同步任务配置方面的最佳实践。背景信息 云数据库ClickHouse是面向联机分析处理的列式数据库。数据集成支持从ClickHouse同步数据到...
离线同步任务调优
本文为您介绍影响数据同步速度的因素、如何通过调整同步任务的并发配置来实现同步速度最大化、作业的限速选项，以及数据同步过慢的场景。文档概述 同步速度受同步任务本身配置、数据库、网络等多方面影响，详情请参见：数据同步速度的影响...
购买流程
网络类型 数据同步任务使用的网络类型，固定为 专线。资源组 选择同步任务所属的资源组，相关介绍，请参见 什么是资源管理。购买量 订购时长 在预付费模式下，选择包年包月任务的时长和数量，包月可选择1~9个月，包年可选择1年、2年、3年和...
同步时源库为Oracle的注意事项及限制
如果同步的源数据库类型为自建Oracle，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为Oracle的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：说明 在库表结构同步过程中...
通过DataWorks将阿里云ES数据同步到阿里云ES ...
独享资源部署在DataWorks托管的专有网络中，DataWorks需要与ES实例的专有网络连通才能同步数据。新增专有网络绑定时选择ES实例所在的 专有网络、可用区 和 交换机。更多信息，请参见 绑定专有网络。在已创建的独享资源组的 操作 列，单击 ...
DataStudio侧实时同步任务配置
完成数据源、网络、资源的准备配置后，您可创建实时同步节点，将多种输入及输出数据源搭配组成同步链路，进行单表或整库数据的实时增量同步。本文为您介绍如何创建单表或整库增量数据实时同步任务，并在创建完成后查看任务运行情况。前提...
OSS数据离线同步至MaxCompute
本文以OSS离线同步写入MaxCompute场景为例，为您介绍OSS离线同步在数据源配置、网络联通、同步任务配置方面的最佳实践。背景信息 阿里云对象存储OSS（Object Storage Service）是一款海量、安全、低成本、高可靠的云存储服务，提供99....
OSS数据离线同步至MaxCompute
本文以OSS离线同步写入MaxCompute场景为例，为您介绍OSS离线同步在数据源配置、网络联通、同步任务配置方面的最佳实践。背景信息 阿里云对象存储OSS（Object Storage Service）是一款海量、安全、低成本、高可靠的云存储服务，提供99....
手动触发同步
说明 辅助DNS中的解析记录更新，一般是由主DNS发送NOTIFY来触发解析数据同步，或者是根据主DNS设置的刷新时间来触发解析数据同步（指时间到期则触发）。设置方法 登录 云解析DNS产品控制台。单击左侧导航栏的 辅助DNS 按钮进入辅助DNS页面...
查询数据同步实例列表及各实例详情
通过DescribeSynchronizationJobs查询数据同步实例列表和各同步实例的详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 ...
查询同步对象修改情况
ErrCode String InternalError 调用出错时返回的错误码。ErrMessage String The request processing has failed due to some unknown error.调用错误时返回的错误信息。ErrorMessage String DTS-070211:Connect Source DB failed.cause by...
使用创建反向任务功能
注意事项 仅SQL Server数据库间或MySQL数据库间的同步实例支持创建反向实例，且该反向实例的 同步类型 只勾选了 增量同步。创建反向实例前直接写入到原同步实例目标库的数据，不会被同步。反向实例创建成功后会立即进行预检查，预检查通过...
StartDiskReplicaGroup-开始异步复制组
首次同步时，系统会先进行一次全量同步，之后会按照保证RPO（Recovery Point Object）的时间周期内进行增量同步。接口说明 一致性复制组功能支持的地域请参见 云盘异步复制概述。当使用自动同步（即设置 OneShot 为 false）时，一致性复制...
创建同步MaxCompute
同步数据到MaxCompute 准备工作 1....常见问题 同步到MaxCompute timestamp字段时间变为1970-01-19 原因：DataHub同步MaxCompute默认时间戳单位为微秒，用户写入时间戳为毫秒解决方案：写入DataHub时间戳以微秒方式写入。
同步时源库为MongoDB的注意事项及限制
源库为MongoDB的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：MongoDB（副本集架构）同步至MongoDB（副本集架构、分片集群架构）MongoDB（分片集群架构）间双向同步 MongoDB（分片集群架构）间单向同步 MongoDB（副本集...
- 产品推荐
- 这些文档可能帮助您