支持的数据库
双向同步 PolarDB PostgreSQL版间的同步 云原生数据仓库 AnalyticDB PostgreSQL 版 4.3、6.0、7.0版本 库表结构同步 全量数据同步 增量数据同步 单向同步 PolarDB PostgreSQL版同步至AnalyticDB PostgreSQL 源为PolarDB-X的同步方案 重要 ...
概述
DataHub数据同步功能 DataHub提供数据Sink/Source功能，即数据同步功能，DataHub支持将对应Topic中的数据 实时/准实时 的同步到第三方阿里云产品中，打通阿里云产品间的数据流通。目前支持MaxCompute（原ODPS）、分析型数据库MySQL(ADS)、...
数据集成概述
使用限制 数据同步：支持且仅支持结构化（例如RDS、DRDS等）、半结构化、无结构化（OSS、TXT等，要求具体同步数据必须抽象为结构化数据）的数据的同步。即数据集成仅支持传输能够抽象为逻辑二维表的数据同步，不支持同步OSS中存放完全非...
同步方案概览
源为自建MySQL或RDS MySQL的同步方案 源为PolarDB MySQL版的同步方案 源为PolarDB PostgreSQL版（兼容Oracle）的同步方案 源为PolarDB PostgreSQL版的同步方案 源为PolarDB-X的同步方案 源为Oracle的同步方案 源为自建PostgreSQL或RDS ...
路由同步
您可以通过路由同步功能控制企业版转发路由器向网络实例传播网络实例连接关联的企业版转发路由器路由表中的路由。本文为您介绍路由同步的使用限制、路由同步机制以及如何开启和关闭路由同步功能。使用限制 仅企业版转发路由器支持路由同步...
同步时源库为PolarDB-X 1.0的注意事项及限制
如果同步的源实例为 PolarDB-X 1.0，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。重要 更多功能规范和约束说明，请参见 源为PolarDB-X的功能规范和约束说明。推荐的任务配置方案，请参见 源为...
通过image-syncer工具迁移容器镜像
支持自动重试失败的同步任务，解决大部分镜像同步中的网络抖动问题。不依赖Docker以及其他程序。通过使用image-syncer，只需要保证image-syncer的运行环境与需要同步的registry网络连通，您可以快速地完成从镜像仓库的迁移、复制以及增量...
通过image-syncer工具迁移容器镜像
支持自动重试失败的同步任务，解决大部分镜像同步中的网络抖动问题。不依赖Docker以及其他程序。通过使用image-syncer，只需要保证image-syncer的运行环境与需要同步的registry网络连通，您可以快速地完成从镜像仓库的迁移、复制以及增量...
AnalyticDB for MySQL 3.0数据源
如果ADB数据源配置的实例从数仓版切换到了湖仓版，使用该数据源运行在公共资源组上的同步任务将会失败，建议切换前，确认是否有运行在公共资源组上的同步任务，并且将其切换到独享资源组运行。离线同步支持读取视图（VIEW）表。支持的字段...
网络时间同步助手
本文介绍如何通过函数计算部署网络时间同步助手，实现设备本地时间与网络时间同步。如果您的设备上已经安装了NTP服务，有和云端服务器周期性同步系统时间的能力，则无需操作本文内容。前提条件 本示例仅适用于Link IoT Edge专业版，在开始...
MaxCompute数据源
数据集成使用MaxCompute引擎同步数据通道进行数据上传和下载（同步数据通道SLA详情请参见 数据传输服务（上传）场景与工具），请根据MaxCompute引擎同步数据通道SLA评估数据同步业务技术选型。一键实时同步至MaxCompute，按实例模式同步时...
迁移 OceanBase 数据库 Oracle 租户的数据至 Oracle ...
增量同步 的使用限制如下：如果您选择了 DDL 同步，当源端数据库发生数据传输未支持的同步 DDL 操作时，会存在数据迁移中断的风险。如果 DDL 操作为新增列，建议您设置该列的属性为 Null，否则会存在数据迁移中断的风险。全量校验 在全量...
HybridDB for MySQL数据源
HybridDB for MySQL数据源为您提供读取和写入HybridDB for MySQL的双向功能，本文为您介绍DataWorks的HybridDB for MySQL数据同步能力支持情况。使用限制 离线同步支持读取视图表。HybridDB for MySQL Reader插件支持读取表和视图。表字段...
数据迁移与同步FAQ
本文为您列出数据迁移与数据同步的常见问题和相关解答。什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：...
数据传输作业：数据集成
为了解决上述问题，DataWorks提出了面向业务场景的同步任务配置化方案，支持同步至MaxCompute的一键同步功能：一键实时同步至MaxCompute、整库离线同步至MaxCompute。注意事项 在数据集成同步任务配置前您需要在DataWorks 数据源管理 页面...
常见问题
因为含增量任务的同步实例暂停期间，仅目标端的数据写入暂停，源端增量变化的数据依然会进行采集。为什么数据同步的价格要高于数据迁移的价格？因为数据同步具有更多的高级特性，例如支持在线调整同步对象、支持配置MySQL数据库之间的双向...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
注册中心同步
新增Nacos-Nacos同步任务 在 新增同步任务 页面，填写同步任务相关配置信息：参数 说明 同步集群 选择已新建的同步集群。具体操作，请参见 注册中心同步集群。源注册中心 根据需要，选择已新建的注册中心作为源注册中心。具体操作，请参见 ...
注册中心同步配置
新增Nacos-Nacos同步任务 在 新增同步任务 页面，填写同步任务相关配置信息：参数 说明 同步集群 选择已新建的同步集群。具体操作，请参见 注册中心同步集群。源注册中心 根据需要，选择已新建的注册中心作为源注册中心。具体操作，请参见 ...
配置数据层
COPY 同步延迟策略 同步延迟策略在执行切流时生效：无：数据保护规则上的同步链路在切流时的同步位点时间没有追赶上切流配置生效时间，不禁止对该实例分组下的写操作SQL语句。禁止写入：数据保护规则上的同步链路在切流时的同步位点时间...
监控任务性能
根据要查看的同步性能类型，选择下述操作步骤。查看全量同步链路状态和性能。单击页面上方的 全量同步性能 页签。您可以查看全量同步链路拓扑、自定义时间范围内的指标趋势图。功能 说明 全量同步链路拓扑 全量同步链路主要展示源库到DTS、...
从自建TiDB同步至云原生数据仓库AnalyticDB MySQL
请勿在数据同步时，对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更，否则会导致同步失败。说明 如果同步的目标为 云原生数据仓库AnalyticDB MySQL（3.0），您可以使用 DMS 提供的相关功能来执行在线DDL...
云数据库MongoDB版（分片集群架构）
当超出数量限制，任务提交后会显示请求报错，此时建议您拆分待同步的集合，分批配置多个任务，或者配置整库的同步任务。需开启Oplog日志。说明 DTS要求源数据库的Oplog日志至少保留7天以上，否则DTS可能因无法获取Oplog日志而导致任务失败...
低成本跨境文件传输
本文介绍如何通过OSS加速域名，配合函数计算和 Serverless 工作流，快速打造低成本、高效的跨境对象存储数据同步传输系统。应用场景 需要跨境传输对象存储数据。对数据的跨境传输成本有严格的控制。对文件同步延时不敏感，能接受一定程度的...
查询子实例间的同步延迟
在使用过程中，您可以随时查询子实例的同步状态、同步延迟和同步数量，掌握同步链路的实时情况。前提条件 Tair 全球多活实例中至少包含2个子实例。关于如何添加子实例，请参见 为分布式实例添加子实例。操作步骤 登录 Tair管理控制台。在...
查询子实例间的同步延迟
在使用过程中，您可以随时查询子实例的同步状态、同步延迟和同步数量，掌握同步链路的实时情况。前提条件 Redis 全球多活实例中至少包含2个子实例。关于如何添加子实例，请参见 为分布式实例添加子实例。操作步骤 登录 Redis管理控制台。在...
低成本跨境文件传输
本文介绍如何通过OSS加速域名，配合函数计算和 Serverless 工作流，快速打造低成本、高效的跨境对象存储数据同步传输系统。应用场景 需要跨境传输对象存储数据。对数据的跨境传输成本有严格的控制。对文件同步延时不敏感，能接受一定程度的...
云数据库MongoDB版（分片集群架构）同步至函数计算FC
当超出数量限制，任务提交后会显示请求报错，此时建议您拆分待同步的集合，分批配置多个任务，或者配置整库的同步任务。需开启Oplog日志。说明 DTS要求源数据库的Oplog日志至少保留7天以上，否则DTS可能因无法获取Oplog日志而导致任务失败...
离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
数据集成
DataWorks数据集成支持复杂网络环境下的数据同步，您可在数据开发（DataStudio）界面直接 创建离线同步节点，用于离线（批量）数据周期性同步；实时同步任务运维，用于单表或整库增量数据实时同步。本文为您介绍数据同步的相关内容。背景...
Kafka实时ETL同步至Hologres
查看任务运行状态 创建完成同步任务后，您可以在同步任务页面，找到已创建的同步任务，单击 任务名称 或 执行概况 空白处，查看任务的运行详情。任务详情分为三个部分：基本信息：您可以查看同步任务的数据源信息、绑定的资源组等信息。...
Kafka单表实时入湖OSS（HUDI）
查看任务运行状态 创建完成同步任务后，您可以在同步任务页面，找到已创建的同步任务，单击 任务名称 或 执行概况 空白处，查看任务的运行详情。任务详情分为三个部分：基本信息：您可以查看同步任务的数据源信息、绑定的资源组等信息。...
CREATE TABLE AS（CTAS）语句
通过CTAS语句，在实时同步数据的同时，还能实时将上游表结构（Schema）的变更同步到下游表，提高您在目标存储中创建表和维护源表结构变更的效率。本文为您介绍CREATE TABLE AS（CTAS）的使用方法，并提供了多种使用场景下的示例。前提条件 ...
数据集成侧同步任务能力说明
为了解决上述问题，DataWorks提出了面向业务场景的同步任务配置化方案，支持不同数据源的一键同步功能，例如，“一键实时同步至Elasticsearch”、“一键实时同步至Hologres”和“一键实时同步至MaxCompute”功能等，通过此类功能，您只需要...
创建同步RDS/MySQL/ADS3.0
请确保DataHub Topic和RDS实例在同一个Region 创建同步任务 依次进入 项目列表/Project详情/Topic详情 页面 点击右上角的+同步 按钮进行同步任务创建 下面罗列了部分管控台创建同步任务的配置说明，更多更灵活的操作请参考SDK使用。...
通过DataWorks将RDS SQL Server数据同步到阿里云ES
支持同步的数据源包括：阿里云云数据库（MySQL、PostgreSQL、SQL Server、MongoDB、HBase）阿里云PolarDB-X（原DRDS升级版）阿里云MaxCompute 阿里云OSS 阿里云Tablestore 自建HDFS、Oracle、FTP、DB2及以上数据库类型的自建版本 适用场景...
DataWorks节点合集
类型 描述 数据集成同步类节点 DataWorks数据集成支持复杂网络环境下的数据同步，并提供用于离线（批量）数据周期性同步的离线同步节点，与用于单表或整库增量数据实时同步的实时同步节点。该节点可在数据开发（DataStudio）界面直接创建。...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
通过DataWorks将HBase数据同步到阿里云ES
支持同步的数据源包括：阿里云云数据库（MySQL、PostgreSQL、SQL Server、MongoDB、HBase）阿里云PolarDB-X（原DRDS升级版）阿里云MaxCompute 阿里云OSS 阿里云Tablestore 自建HDFS、Oracle、FTP、DB2及以上数据库类型的自建版本 适用场景...
- 产品推荐
- 这些文档可能帮助您