使用DataWorks同步iGraph数据
数据集成是大数据开发治理平台DataWorks提供的数据同步服务，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。借助DataWorks提供的数据同步能力可将多种数据源的数据批量写入iGraph。本文为您讲解如何配置...
配置同步任务
配置同步任务是将数据源的数据同步到目标表的过程。本文为您介绍如何配置同步任务。配置流程说明 同步任务的配置流程如下图。来源表和目标表均支持多种数据源。数据库类型 数据源 关系型数据库 MySQL、Oracle、Microsoft SQL Server、...
利用DataWorks将数据迁移到TSDB
实际效果如图 2 所示：按照图 4 中的三个步骤，完成数据同步任务的创建：图 4：创建数据同步任务 在弹窗中填入数据同步任务名（例如：node1）。实际效果如图 5 所示：图 5：数据同步任务名 数据同步任务创建成功之后，可以在右边空白处看到...
GetDISyncInstanceInfo
获取实时同步任务和同步解决方案任务的运行状态。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
离线同步写入MongoDB数据
DataWorks的数据集成为您提供MongoDB Writer插件，可从其他数据源中读取数据，并将数据同步至MongoDB。本文以一个具体的示例，为您演示如何通过数据集成将MaxCompute的数据离线同步至MongoDB。前提条件 本实践进行操作时，需满足以下条件。...
现代IM系统中的消息系统—模型
本章节主要介绍表格存储（Tablestore）的Timeline模型基本功能以及核心组件，并且会通过IM消息系统场景，介绍如何基于Timeline实现IM场景下消息同步、存储和索引等基本功能。Timeline模型 Timeline模型以简单为设计目标，核心模块主要包括...
配置同步任务
配置同步任务是将数据源的数据同步到目标表的过程。本文为您介绍如何配置同步任务。配置流程说明 同步任务的配置流程如下图。来源表和目标表均支持多种数据源。数据库类型 数据源 关系型数据库 MySQL、Oracle、Microsoft SQL Server、...
现代IM系统中的消息系统—架构
接收方会主动的向服务端拉取所有未同步消息，但接收方何时来同步以及会在哪些端来同步消息对服务端来说是未知的，所以要求服务端必须保存所有需要同步到接收方的消息，这是消息同步库的主要作用。对于新的同步设备，会有消息漫游的需求，这...
在云控制台上使用文件网关
加入同步组 开启该共享的极速同步功能，将其加入同步组，对该共享的Bucket中数据进行的任何改动都会自动同步至共享的本地客户端。开启该选项后，该共享的反向同步选项将自动关闭。说明 要选择该选项，您必须提前创建一个同步组，且同步组的...
辐射气泡
辐射气泡是三维城市构建器的图层，可以表示点状目标的辐射范围，例如商场、医院等场所的服务范围。支持独立的样式和数据配置，包括辐射气泡的颜色、缩放倍数、转动速度、亮度和高度偏移等。本文介绍辐射气泡配置项的含义。在场景编辑器左侧...
辐射气泡
辐射气泡是三维城市构建器的图层，可以表示点状目标的辐射范围，例如商场、医院等场所的服务范围。支持独立的样式和数据配置，包括辐射气泡的颜色、缩放倍数、转动速度、亮度和高度偏移等。本文介绍辐射气泡配置项的含义。在场景编辑器左侧...
管理共享
加入同步组 开启该共享的极速同步功能，将其加入同步组，对该共享的Bucket中数据进行的任何改动都会自动同步至共享的本地客户端。开启该选项后，该共享的反向同步选项将自动关闭。说明 要选择该选项，您必须提前创建一个同步组，且同步组的...
从PolarDB MySQL版同步至Datahub
通过数据传输服务（Data Transmission Service，简称DTS），您可以将 PolarDB MySQL版 同步至DataHub，帮助您快速实现使用流计算等大数据产品对数据实时分析。前提条件 DataHub实例的地域为华东1、华东2、华北2或华南1。DataHub实例中，已...
从PolarDB MySQL版同步至Datahub
通过数据传输服务（Data Transmission Service，简称DTS），您可以将 PolarDB MySQL版 同步至DataHub，帮助您快速实现使用流计算等大数据产品对数据实时分析。前提条件 DataHub实例的地域为华东1、华东2、华北2或华南1。DataHub实例中，已...
基础术语
中文 释义 数据抓取延迟 数据抓取延迟是指数据同步服务抓取数据并写入产品存储的时间与数据实际写入至源数据库的时间差。数据抓取延迟仅在增量同步阶段有数值。数据写入延迟 数据写入延迟是指同步到目标实例的最新数据在源数据库执行的时间...
增量同步性能白皮书
单机同步单分区 单机同步4个分区 单机同步8个分区 单机同步32分区 单机同步64分区 2台机器同步64分区 2台机器同步128分区 说明 上述测试场景不是产品能力的极限测试，对表格存储服务端的整体压力较小。测试步骤 创建数据表并进行预分区...
从RDS MySQL同步至DataHub
通过数据传输服务DTS（Data Transmission Service），您可以将 RDS MySQL 或RDS MySQL Serverless 同步至DataHub，帮助您快速实现使用流计算等大数据产品对数据实时分析。前提条件 DataHub实例的地域为华东1、华东2、华北2或华南1。DataHub...
从RDS MySQL同步至DataHub
通过数据传输服务DTS（Data Transmission Service），您可以将 RDS MySQL 或RDS MySQL Serverless 同步至DataHub，帮助您快速实现使用流计算等大数据产品对数据实时分析。前提条件 DataHub实例的地域为华东1、华东2、华北2或华南1。DataHub...
实时同步常见问题
本文为您介绍实时同步的相关问题。文档概述 问题分类 相关文档 实时同步任务配置须知 实时同步任务支持哪些数据源？为什么实时同步任务延迟较大？实时同步任务延迟解决方案 实时同步任务为什么不建议使用公网？实时同步字段格式问题 实时...
Kafka数据源
Kafka数据源为您提供读取和写入Kafka的双向通道，本文为您介绍DataWorks的Kafka数据同步的能力支持情况。支持的版本 支持阿里云Kafka，以及=0.10.2且的自建Kafka版本。说明 对于版本Kafka，由于Kafka不支持检索分区数据offset，并且Kafka...
PolarDB-X 1.0同步至Elasticsearch
本文介绍如何使用数据传输服务DTS（Data Transmission Service）将数据从PolarDB-X 1.0同步至Elasticsearch。前提条件 源 PolarDB-X 1.0 的存储类型支持为RDS MySQL（包括私有定制RDS和单独购买的RDS），暂不支持为PolarDB MySQL。已创建...
同步时源库为Db2 for LUW的注意事项及限制
如果同步的源库为 Db2 for LUW，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。Db2 for LUW同步至PolarDB-X 2.0 说明 DTS默认同步到目标数据库中时会取消外键约束，因此源数据库的级联、删除等...
离线同步常见问题
本文为您介绍离线同步的相关问题。文档概述 问题分类 相关文档 离线同步任务运维常见问题 为什么数据源测试连通性成功，但是离线同步任务执行失败？如何切换数据集成任务执行资源组？脏数据如何排查和定位？如何查看脏数据？如果离线同步...
PolarDB MySQL版间的双向同步
双向同步实例包含正向和反向同步任务，在配置或重置双向同步实例时，若其中一个任务的目标对象是另一个任务待同步的对象：仅允许其中一个任务同步全量和增量数据，另一个任务仅支持同步增量数据。当前任务的源数据仅支持同步到当前任务的...
同步时源库为MySQL的注意事项及限制
云原生数据仓库AnalyticDB MySQL 2.0 云原生数据仓库AnalyticDB MySQL 3.0 云原生数据仓库AnalyticDB PostgreSQL Elasticsearch Tablestore PolarDB-X 2.0 Oracle PostgreSQL MySQL间的同步 MySQL同步至PolarDB MySQL版 MySQL同步至云原生...
MySQL实例间的双向同步
双向同步实例包含正向和反向同步任务，在配置或重置双向同步实例时，若其中一个任务的目标对象是另一个任务待同步的对象：仅允许其中一个任务同步全量和增量数据，另一个任务仅支持同步增量数据。当前任务的源数据仅支持同步到当前任务的...
同步时源库为Oracle的注意事项及限制
如果同步的源数据库类型为自建Oracle，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为Oracle的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：说明 在库表结构同步过程中...
报错：DTS-30019:Can not find column
方法二：重要 双向同步任务、目标表有除DTS以外的数据写入、目标端的表为多对一单向同步架构的目标表（包括一个任务的多张表映射到同一张表和多个任务的表映射到同一张表的场景）时不能使用此方法。将报错的表从同步对象移除，然后启动任务...
PolarDB MySQL版间的双向同步
数据传输服务DTS（Data Transmission Service）支持两个 PolarDB MySQL版 集群间的双向数据同步，适用于异地多活、异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已购买源和目标 PolarDB MySQL版 集群（简称PolarDB...
配置同步任务（旧控制台）
数据传输服务DTS（Data Transmission Service）提供的数据同步功能简单易用，您只需在控制台上进行简单操作，即可完成整个数据同步任务的配置。首次使用数据同步功能时，请阅读 数据同步操作指导，帮助您快速掌握创建、监控、管理数据同步...
RDS MySQL同步至DataHub
是否限制增量同步速率 您也可以根据实际情况，选择是否对增量同步任务进行限速设置（设置 每秒增量同步的行数RPS 和 每秒增量同步的数据量(MB)BPS），以缓解目标库的压力。环境标签 您可以根据实际情况，选择用于标识实例的环境标签。本...
实时同步任务延迟解决方案
确认造成延迟问题在同步任务的读端还是写端 如果是在DataStudio创建的实时同步任务，您需要在 运维中心>实时任务运维>实时同步任务 界面单击运行中的任务名称，弹出任务运行详情对话框。详情请参见 实时同步任务运行与管理。在任务运行详情...
MySQL实例间的双向同步
双向同步实例包含正向和反向同步任务，在配置或重置双向同步实例时，若其中一个任务的目标对象是另一个任务待同步的对象：仅允许其中一个任务同步全量和增量数据，另一个任务仅支持同步增量数据。当前任务的源数据仅支持同步到当前任务的...
RDS MySQL与PolarDB MySQL版间的双向同步
双向同步实例包含正向和反向同步任务，在配置或重置双向同步实例时，若其中一个任务的目标对象是另一个任务待同步的对象：仅允许其中一个任务同步全量和增量数据，另一个任务仅支持同步增量数据。当前任务的源数据仅支持同步到当前任务的...
MySQL实例间的双向同步
若DTS正向和反向同步任务均同步了某个表，且正向同步任务同步了该表的全量和增量数据，则反向同步任务只同步该表的增量数据。若目标库的DDL写入失败，DTS任务会继续运行，您需要在任务日志中查看执行失败的DDL。查看任务日志的方法，请参见...
PolarDB MySQL版间的单向同步
TRUNCATE TABLE 支持的同步架构 一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。功能限制 不兼容触发器 当同步对象为整个库，且库中的触发器（TRIGGER）会更新库...
RDS MySQL实例间的单向同步
支持的同步架构 一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 一对一双向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。支持同步的SQL操作 操作类型 SQL操作语句 DML INSERT、UPDATE、DELETE、REPLACE ...
PolarDB MySQL版间的单向同步
一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。功能限制 不兼容触发器 当同步对象为整个库，且库中的触发器（TRIGGER）会更新库内某个表时，可能导致源和目标库...
RDS MySQL实例间的单向同步
支持的同步架构 一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 一对一双向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。支持同步的SQL操作 操作类型 SQL操作语句 DML INSERT、UPDATE、DELETE、REPLACE ...
从RDS MySQL同步至PolarDB MySQL版
TRUNCATE TABLE 支持的同步架构 一对一单向同步 一对多单向同步 级联单向同步 多对一单向同步 关于各类同步架构的介绍及注意事项，请参见 数据同步拓扑介绍。功能限制 不兼容触发器 当同步对象为整个库，且库中的触发器（TRIGGER）会更新库...
- 产品推荐
- 这些文档可能帮助您