DM（达梦）数据源
数据同步系统会启动并发任务进行数据同步，以提高数据同步的效能：推荐 splitPk 用户使用表主键，因为表主键通常情况下比较均匀，切分出来的分片也不容易出现数据热点。目前 splitPk 仅支持整型数据切分，不支持浮点、字符串和日期等其他...
整库离线同步至OSS
整库离线同步方案包括周期性全量同步、周期性增量同步、一次性全量同步、一次性增量同步、一次性全量周期性增量同步。本文以一次性全量周期性增量同步至OSS为例，为您讲解如何将整库数据离线同步至OSS。前提条件 已完成数据源配置。您需要...
迁移 PolarDB-X 2.0 数据库的数据至 OceanBase 数据库...
详情请参见 什么是云原生数据库 PolarDB 分布式版。前提条件 数据传输已具备云资源访问权限。详情请参见 数据传输迁移角色授权。已为源端 PolarDB-X 2.0 数据库和目标端 OceanBase 数据库 MySQL 租户创建专用于数据迁移的数据库用户，并...
常见问题
离线同步常见问题 离线同步任务运维常见问题 为什么数据源测试连通性成功，但是离线同步任务执行失败？如何切换数据集成任务执行资源组？脏数据如何排查和定位？如何查看脏数据？如果离线同步传输数据时，脏数据超出限制，是否所有数据都...
Amazon S3数据源
说明 数据同步系统会将一个作业下同步的所有Object视作同一张数据表。您必须保证所有的Object能够适配同一套Schema信息。请注意控制单个目录下的文件个数，否则可能会触发系统 OutOfMemoryError 报错。如果遇到此情况，请将文件拆分到不同...
RDS MySQL同步至AnalyticDB MySQL 3.0
使用数据传输服务DTS（Data Transmission Service），可以帮助您将 RDS MySQL 同步至 云原生数据仓库AnalyticDB MySQL版 3.0，帮助您快速构建企业内部BI、交互查询、实时报表等系统。前提条件 已创建源 RDS MySQL 实例，创建方式，请参见 ...
迁移或同步指定时间段内的数据
实时数据复制 重要 实时数据复制是通过WAL日志（Write-Ahead Log）进行同步的，因此只能同步系统当前日志中的数据，例如设置同步的开始时间为3天前，而WAL日志只涵盖了1天前的数据，那么实时数据复制只能同步1天前的数据。历史数据的同步...
RDS MySQL同步至MaxCompute
本文介绍如何使用数据传输服务DTS（Data Transmission Service），将 RDS MySQL 的数据同步至MaxCompute，帮助您快速搭建数据实时分析系统。前提条件 已开通MaxCompute并创建MaxCompute项目。更多信息，请参见 开通MaxCompute和DataWorks ...
Oracle数据源
Oracle数据源为您提供读取和写入Oracle双向通道的功能，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的Oracle数据同步能力支持情况。支持的版本 离线读写 版本 离线读（Oracle Reader）离线写（Oracle ...
云数据库MongoDB版同步至云原生多模数据库Lindorm
数据传输服务DTS（Data Transmission Service）支持将MongoDB（副本集架构或分片集群架构）同步至云原生多模数据库Lindorm（宽表引擎）。Lindorm具有稳定、低成本、简单易用等优势，可以在元数据、订单、账单、画像、社交等场景中，为您...
SQL Server数据源
SQL Server数据源为您提供读取和写入SQL Server双向通道的功能，本文为您介绍DataWorks的SQL Server数据同步的能力支持情况。支持的版本 SQL Server Reader使用驱动版本是com.microsoft.sqlserver sqljdbc4 4.0，驱动能力具体请参见 官网...
BigQuery数据源
BigQuery数据源为您提供读取BigQuery的功能，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的BigQuery数据同步能力支持情况。...数据同步系统会启动并发任务进行数据同步，以提高数据同步的效能。否 无
GBase8a数据源
GBase8a数据源为您提供读取和写入GBase8a双向通道的功能，本文为您介绍DataWorks的GBase8a数据同步的能力支持情况。使用限制 目前Gbase8a Reader和Gbase8a Writer仅支持使用 新增和使用独享数据集成资源组。insert into.：当主键或唯一性...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
HybridDB for MySQL数据源
HybridDB for MySQL数据源为您提供读取和写入HybridDB for MySQL的双向功能，本文为您介绍DataWorks的HybridDB for MySQL数据同步能力支持情况。使用限制 离线同步支持读取视图表。HybridDB for MySQL Reader插件支持读取表和视图。表字段...
Vertica数据源
Vertica是一款基于列存储的MPP架构的数据库，Vertica数据源为您提供读取和写入Vertica双向通道的功能，本文为您介绍DataWorks的Vertica数据同步的能力支持情况。支持的版本 Vertica Reader通过Vertica数据库驱动访问Vertica，您需要确认...
ClickHouse数据源
ClickHouse数据源为您提供读取和写入ClickHouse双向通道的功能，本文为您介绍DataWorks的ClickHouse数据同步的能力支持情况。支持的版本 支持阿里云ClickHouse的20.8、21.8内核版本。您需要确认驱动和您的ClickHouse服务之间的兼容能力，...
MariaDB数据源
MariaDB数据源为您提供读取和写入MariaDB的双向通道，本文为您介绍DataWorks的MariaDB数据同步能力支持情况。支持的MariaDB版本 离线读写 支持MariaDB 5.5.x、MariaDB 10.0.x、MariaDB 10.1.x、MariaDB 10.2.x、MariaDB 10.3.x版本，且离线...
Amazon Redshift数据源
数据同步系统会启动并发任务进行数据同步，以提高数据同步的效能。否 无 Amazon Redshift Writer脚本Demo与参数说明 Amazon Redshift Writer脚本Demo {"stepType":"redshift",/插件名。parameter":{"postSql":["delete from XXX;...
ApsaraDB For OceanBase数据源
ApsaraDB for OceanBase数据源提供读取和写入ApsaraDB for OceanBase数据的双向功能，您可以使用ApsaraDB for OceanBase数据源配置同步任务同步数据。本文为您介绍DataWorks的ApsaraDB For Oceanbase数据同步能力支持情况。支持的版本 离线...
成员管理模块"，点击“账号系统同步”报"DPN.IDE....
问题描述 Dataphin"管理中中心-成员管理模块"，点击“账号系统同步”报"DPN.IDE.AccountProviderListUsersFailed".问题原因 客户的同步账号AK有变动导致，之前给到的同步账号的AK信息被禁用，需要变更为新的。解决方案 1.联系后端技术同学...
AnalyticDB for MySQL 3.0数据源
AnalyticDB for MySQL 3.0数据源为您提供读取和写入 AnalyticDB for MySQL 3.0双向通道的功能，本文为您介绍DataWorks的AnalyticDB for MySQL 3.0数据同步的能力支持情况。使用限制 ADB湖仓版数据源不支持在公共资源组配置以及运行同步任务...
ODS层设计规范
当不同源系统同步到同一个Project下的表命名冲突时，您需要给同步较晚的表名加上源系统的 dbname 以解决冲突。字段命名规范 字段默认使用源系统的字段名。字段名与MaxCompute关键字冲突时，在源字段名后加上 col，即 源字段名col。...
导入与导出
解决方法：非整库同步：建议重新同步这张表（即先从同步对象中去掉，然后删除目标库的表，再把这张表加入到同步对象中），DTS会重新进行包括schema拉取的全量同步，这样会跳过此类型的DDL。整库同步：在AnalyticDB MySQL中新建一张表，表名...
SDK同步与异步通信模式
本文介绍SDK同步与异步通信模式。同步通信模式 大多数嵌入式平台移植C Link SDK使用同步底层通信模型，能够支持C Link SDK以轮询方式主动收取网络报文。例如嵌入式Linux、Windows系统，以及大部分配备LwIP协议栈通信的RTOS（FreeRTOS系统）...
PolarDB-X 2.0数据源
PolarDB-X 2.0数据源为您提供读取和写入PolarDB-X 2.0的双向通道，本文为您介绍DataWorks的PolarDB-X 2.0数据同步的能力支持情况。使用限制 PolarDB-X 2.0数据源仅支持使用 独享数据集成资源组。支持的版本 离线读写：支持PolarDB-X 2.0，...
AnalyticDB for PostgreSQL数据源
AnalyticDB for PostgreSQL数据源提供读取和写入AnalyticDB for PostgreSQL的双向功能，本文为您介绍DataWorks的AnalyticDB for PostgreSQL数据同步的能力支持情况。使用限制 离线同步支持读取视图表。支持的版本 支持版本最高至7.0（含）...
PolarDB数据源
PolarDB数据源为您提供读取和写入PolarDB双向通道的功能，您可以通过向导模式和脚本模式配置同步任务。使用限制 离线读写 支持读取视图表。实时读 来源数据源为阿里云PolarDB MySQL时，您需要开启Binlog。阿里云PolarDB MySQL是一款完全...
物联网平台通信方式概述
您的设备和服务器接入阿里云物联网平台后，可通过物联网平台实现设备与服务器、设备与设备间的通信。本文介绍设备、物联网平台、服务器间通信的方法。背景信息 设备通过消息Topic实现消息的发送和接收，消息通信Topic的定义、使用和分类...
PostgreSQL数据源
PostgreSQL数据源为您提供读取和写入PostgreSQL双向通道的功能，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的PostgreSQL数据同步能力支持情况。支持的版本 目前仅支持配置PostgreSQL数据源为PostgreSQL...
通过SCIM同步Okta用户或用户组的示例
等待系统同步完成，然后查看同步结果。当 Push Status 由 Pushing 变为 Active，表示用户组同步成功。说明 如果用户组中的用户没有全部同步到云SSO，您可以在 Push Status 下拉列表中，单击 Push Now，重新同步用户组中的用户。同步过程中...
迁移数据库账号
注意事项 当前仅MySQL实例间的同步或迁移、MySQL实例同步或迁移到 PolarDB MySQL版 集群、PolarDB MySQL版 集群间的同步或迁移实例，支持将源库的账号迁移至目标库。说明 MySQL实例含RDS MySQL和自建MySQL。目标RDS MySQL实例为5.6版本时，...
使用前必读
迁移中 实例迁移中灰度迁移是什么意思？旧版公共实例迁移到企业版实例，需要在企业版实例中先创建产品、设备和配置消息转发吗？旧版公共实例迁移会对已接入的设备造成影响吗？迁移后 完成旧版公共实例灰度迁移后，迁移详情页面无设备及其...
添加Dataphin成员
若您使用的是非Dataphin自建账号体系，在开始使用Dataphin构建智能数据前，需要将您企业不同角色的人员加入至Dataphin，便于后续数据的研发。本文为您介绍如何添加成员。权限说明 超级管理员和系统管理员支持添加成员。...
功能特性
MySQL实例间的双向同步 PolarDB PostgreSQL版（兼容Oracle）集群间的双向同步 RDS PostgreSQL间的双向同步 云数据库MongoDB版间的双向同步 云原生内存数据库Tair间的双向同步 一键调转正反向同步 支持将双向同步实例的方向进行调转。...
LTS（原BDS）服务介绍
LTS（Lindorm Tunnel ...可以通过LTS将RDS数据实时同步到云HBase实现冷热数据分离，云HBase提供自动水平扩展、高并发查询、多维索引、轻量分析，Streams提供变更数据有序订阅，LTS还支持将云HBase数据同步到其它分析系统进行复杂数据分析。
PolarDB MySQL版同步至AnalyticDB MySQL 3.0
使用数据传输服务DTS（Data Transmission Service），可以帮助您将 PolarDB MySQL版 集群同步至 云原生数据仓库AnalyticDB MySQL版 3.0，帮助您快速构建企业内部BI、交互查询、实时报表等系统。前提条件 已创建源 PolarDB MySQL版 集群，...
数据管理DMS逻辑库同步至云原生数据仓库 AnalyticDB ...
数据传输服务DTS（Data Transmission Service），支持将在数据管理（Data Management，简称DMS）配置的逻辑库同步至 云原生数据仓库AnalyticDB MySQL版 3.0，帮助您快速构建企业内部BI、交互查询、实时报表等系统。前提条件 已在数据管理...
自建PostgreSQL同步至PolarDB PostgreSQL版（兼容...
支持的同步架构 一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。支持同步的SQL操作 操作类型 SQL操作语句 DML INSERT、UPDATE、DELETE DDL 仅2020年10月01日后...
LTS（原BDS）服务介绍
什么场景会导致“不消费数据”：没有终止任务的前提下直接释放LTS集群，同步任务暂停。使用日志订阅的任务类型：HBase/Lindorm增量同步、数据归档、数据备份和数据订阅。典型场景 集群迁移 使用范围 HBase迁移Lindorm。集群网络的切换，...
- 产品推荐
- 这些文档可能帮助您