任务状态说明
同步任务是数据实时同步的基本单元。同步任务在创建及运行过程中，不同阶段会处于不同的状态，具体如下表所示。任务状态 状态说明 可进行的操作 创建中 同步任务正在进行同步初始化 查看同步配置 运行中 同步任务正常同步中 查看同步配置 ...
概述
是 函数计算 TUPLE/BLOB 实时 否 Hologres TUPLE 实时 否 使用说明 用户使用数据同步时尽可能的进行同一Region的云产品之间的数据同步，一方面避免跨Region网络不通问题，另一方面也减少不同Region之间数据同步的网络时延。由于阿里云的...
网络时间同步助手
您可以通过物联网边缘计算提供的边缘函数计算功能，很好的解决设备本地时间与网络时间不同步的问题。一、创建时间同步函数 下载时间同步函数 syncNetworkTime-code.zip。该函数会自动和NTP服务器同步网络时间。登录 函数计算控制台。如尚未...
Vertica数据源
Vertica是一款基于列存储的MPP架构的数据库，Vertica数据源为您提供读取和写入Vertica双向通道的功能，本文为您介绍DataWorks的Vertica数据同步的能力支持情况。支持的版本 Vertica Reader通过Vertica数据库驱动访问Vertica，您需要确认...
AnalyticDB for MySQL 3.0数据源
AnalyticDB for MySQL 3.0数据源为您提供读取和写入 AnalyticDB for MySQL 3.0双向通道的功能，本文为您介绍DataWorks的AnalyticDB for MySQL 3.0数据同步的能力支持情况。使用限制 ADB湖仓版数据源不支持在公共资源组配置以及运行同步任务...
MariaDB数据源
否 无 batchSize 一次性批量提交的记录数大小，该值可以极大减少数据同步系统与MariaDB的网络交互次数，并提升整体吞吐量。如果该值设置过大，会导致数据同步运行进程OOM异常。否 256 updateColumn 当 writeMode 配置成 update 时，发生...
Oracle数据源
由于主备数据同步存在一定的时间差，在网络延迟等特定情况下，会导致备库同步恢复的数据与主库有较大差别，从备库同步的数据不是一份当前时间的完整镜像。一致性约束 Oracle在数据存储划分中属于RDBMS系统，对外可以提供强一致性数据查询...
MySQL数据源
MySQL数据源为您提供读取和写入MySQL的双向通道，本文为您介绍DataWorks的MySQL数据同步的能力支持情况。支持的MySQL版本 离线读写：支持MySQL 5.5.x、MySQL 5.6.x、MySQL 5.7.x、MySQL 8.0.x，兼容 Amazon RDS for MySQL、Azure MySQL。离...
ClickHouse数据源
ClickHouse数据源为您提供读取和写入ClickHouse双向通道的功能，本文为您介绍DataWorks的ClickHouse数据同步的能力支持情况。支持的版本 支持阿里云ClickHouse的20.8、21.8内核版本。您需要确认驱动和您的ClickHouse服务之间的兼容能力，...
PolarDB数据源
否 无 batchSize 一次性批量提交的记录数大小，该值可以极大减少数据同步系统与PolarDB的网络交互次数，并提升整体吞吐量。但是该值设置过大可能会造成数据同步运行进程OOM情况。否 1,024 updateColumn 当 writeMode 配置成 update 时，...
基本操作
本文为您介绍云SSO用户的基本操作，包括创建用户、查看用户信息、修改用户基本信息、删除用户、启用或禁用用户登录和重置用户密码。创建用户 登录 云SSO控制台。在左侧导航栏，选择 人员管理>用户。在 用户 页面，单击 创建用户。在 创建...
SQL Server数据源
SQL Server数据源为您提供读取和写入SQL Server双向通道的功能，本文为您介绍DataWorks的SQL Server数据同步的能力支持情况。支持的版本 SQL Server Reader使用驱动版本是com.microsoft.sqlserver sqljdbc4 4.0，驱动能力具体请参见 官网...
DB2数据源
DB2数据源作为数据中枢，为您提供读取和写入DB2数据库的...否 无 batchSize 一次性批量提交的记录数大小，该值可以极大减少数据同步系统与Db2的网络交互次数，并提升整体吞吐量。如果该值设置过大，会导致数据同步运行进程OOM异常。否 1024
SAP HANA数据源
SAP HANA数据源为您提供读取和写入SAP HANA双向通道的功能，本文为您介绍DataWorks的SAP HANA数据同步的能力支持情况。使用限制 离线同步支持读取视图表。目前该数据源仅支持 独享数据集成资源组。支持的字段类型 SAP HANA Reader针对SAP ...
ApsaraDB For OceanBase数据源
ApsaraDB for OceanBase数据源提供读取和写入...否 无 batchSize 一次性批量提交的记录数大小，该值可以极大减少数据同步系统与服务器端的网络交互次数，并提升整体吞吐量。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1,024
使用ClassicLink
专有网络VPC（Virtual Private Cloud）提供ClassicLink功能，使经典网络的ECS实例可以和专有网络中的云资源通过内网互通。背景信息 ClassicLink可以实现经典网络的ECS实例访问已连接的VPC内的云资源，包括ECS实例、RDS实例、SLB实例等。VPC...
使用云企业网拓扑
云企业网拓扑基于实时配置，为您展示云企业网上各个转发路由器已建立的同地域和跨地域连接情况，可视化云企业网构建起的全球资源在云间的连接关系，并支持查看相关网络实例的基本信息。帮助您更直观地了解和管理云上组网。资源拓扑 登录 ...
使用负载均衡拓扑
负载均衡拓扑为您展示负载均衡中具备绑定关系的监听和后端服务器组的组网关系，并支持查看相关网络实例的基本信息，进行实例诊断等操作，帮助您查看流量分发是否符合预期。使用限制 后端服务器组必须绑定监听，若后端服务器组未绑定监听，...
数据传输作业：数据集成
在配置同步任务前，您需要确保数据集成资源组与您将同步的数据源网络环境已经连通，详情请参见 配置资源组与网络连通。实时同步 DataWorks提供的实时数据同步功能，使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步...
为什么云存储网关与OSS上的文件不一致
云存储网关上的文件与OSS对象一一对应，提供与OSS对象1:1映射的文件共享服务，您可以通过网关以标准的POSIX接口访问OSS上的资源。云存储网关与OSS是相互独立的云产品，为保证您通过网关看到的文件视图与OSS一致，需要有特殊的元数据同步...
配置MySQL输入
已配置数据同步资源组与数据库的网络连通，详情请参见 配置资源组与网络连通。使用限制 数据集成不支持同步MySQL只读库实例的数据。DataWorks的数据集成实时同步MySQL数据是基于实时订阅MySQL实现的，实时同步MySQL数据目前仅支持配置MySQL...
数据集成概述
连通数据源与Dataphin间的网络 进行数据同步时，需要连通数据源与Dataphin项目空间间的网络。如何连通数据源与Dataphin间的网络，请参见 网络连通解决方案。适用场景说明 场景 描述 操作指导 通过管道脚本构建同步任务 基于已有的管道脚本...
GBase8a数据源
GBase8a数据源为您提供读取和写入GBase8a双向通道的功能，本文为您介绍DataWorks的GBase8a数据同步的能力支持情况。使用限制 目前Gbase8a Reader和Gbase8a Writer仅支持使用 新增和使用独享数据集成资源组。insert into.：当主键或唯一性...
HybridDB for MySQL数据源
HybridDB for MySQL数据源为您提供读取和...否 无 batchSize 一次性批量提交的记录数大小，该值可以极大减少数据同步系统与HybridDB for MySQL的网络交互次数，并提升整体吞吐量。如果该值设置过大，会导致数据同步运行进程OOM异常。否 1,024
同步时源库为MongoDB的注意事项及限制
如果同步的源数据库类型为MongoDB，如自建MongoDB、云数据库MongoDB，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为MongoDB的同步方案概览 根据如下同步方案，查看同步任务的注意事项及...
离线同步能力说明
您可以根据数据库所在网络环境，选择合适的网络解决方案来实现数据源与资源组的网络连通。在配置同步任务前，您需要确保数据集成资源组与您将同步的数据来源端与目标端网络环境已经连通，对应数据库环境与网络连通配置详情请参见：配置资源...
通过DataWorks导入
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。离线同步支持的数据源及其配置详情请参见 支持的数据源与读写插件。说明 数据...
通过DataWorks导入数据
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。离线同步支持的数据源及其配置详情请参见 支持的数据源与读写插件。说明 数据...
数据集成侧同步任务能力说明
在配置同步任务前，您需要确保数据集成资源组与您将同步的数据来源端与目标端网络环境已经连通，对应数据库环境与网络连通配置详情请参见：配置资源组与网络连通。数据同步场景 全增量同步任务支持单表数据同步至目标端单表、分库分表数据...
数据同步方案概览
数据同步 使用场景 文档链接 PolarDB 间的数据同步 PolarDB MySQL集群间的单向同步 PolarDB MySQL集群间的双向同步 PolarDB 与其它数据库的数据同步 RDS MySQL同步至PolarDB MySQL集群 PolarDB MySQL同步至RDS MySQL 从PolarDB MySQL同步至...
常见问题
同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个阿里云账号下，进行数据同步时如何...
资源组操作及网络连通
同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个阿里云账号下，进行数据同步时如何...
DataX同步数据
DataX是异构数据源离线同步的工具，支持多种异构数据源之间高效的数据同步。Dataphin系统内嵌了DataX组件，支持通过构建Shell任务调用DataX，实现数据同步。本教程以RDS MySQL数据库为例，为您介绍基于Dataphin如何调用DataX同步数据。前提...
数据集成服务
已确保源数据源和DataWorks之间以及目标数据源和DataWorks之间的网络连通。已完成源数据源的版本确认、账号准备、权限配置、产品特有配置等操作。更多信息，请参见相应数据源文档中的配置要求。已完成目标数据源的服务开通、所需资源创建等...
BigQuery数据源
配置BigQuery的网络连接 在DataWorks上进行数据同步前，您需要将BigQuery的网络与数据集成的独享资源组打通，使之通过内网地址进行访问。网络打通的具体方法可参考：配置资源组与网络连通。数据同步任务开发 BigQuery数据同步任务的配置...
基本操作
本文为您介绍用户组的基本操作，包括创建用户组、查看用户组信息、修改用户组基本信息、删除用户组、为用户组添加用户和从用户组移除用户。创建用户组 登录 云SSO控制台。在左侧导航栏，选择 人员管理>用户组。在 用户组 页面，单击 创建...
Amazon Redshift数据源
TYPE_TIMESTAMP java.sql.Timestamp TIMESTAMPTZ SQL_TYPE_TIMESTAMP java.sql.Timestamp VARCHAR SQL_VARCHAR 字符串 数据同步前准备：配置Amazon Redshift的网络连接 在DataWorks上进行数据同步前，您需要将Amazon Redshift的网络与数据...
查看节点和双向同步实例
本文介绍如何在RDS全球多活数据库集群中查看、管理节点以及双向同步的实例。前提条件 已创建全球多活数据库集群。操作步骤 访问 全球多活数据库集群 页面。在全球多活数据库集群列表页面，单击目标集群ID。在集群 基本信息 页面，查看和...
使用DataWorks
测试资源组与数据来源、数据去向之间的网络连通性，确认独享数据集成资源组与数据源网络已打通。然后单击 下一步。配置任务。配置数据来源与去向。在 数据来源 和 数据去向 区域，配置任务读取与写入的表，及同步的数据范围。详情请参见 ...
全增量实时同步至Hologres
步骤二：网络与资源配置 在此步骤中，选择当前任务需要同步的数据来源数据源与数据去向数据源，以及用于执行同步任务的资源组，并测试连通性。说明 您需要在 数据来源 区域根据业务需要定义读取源端数据库所使用的编码格式，及源端数据库...
- 产品推荐
- 这些文档可能帮助您