镜像同步加速
背景信息 跨境同步加速和自定义同步链路功能区别如下：跨境同步加速：基于调度策略与网络链路优化，提升中国内地与海外地域、中国内地与中国香港之间的同步速度。自定义同步链路：使用自定义的云企业网，为不同地域搭建私网通信通道，实现...
迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL ...
如果未具备足够的出口带宽，会影响日志解析和数据迁移速度，可能导致同步延迟增大。如果源端和目标端数据库的 Collation 不同：可能导致数据同步不一致。例如，源端 utf8mb4_0900_ai_ci Collation 下两条数据 A 和 A 将无法全部写入目标端...
路由同步
您可以通过路由同步功能控制企业版转发路由器向网络实例传播网络实例连接关联的企业版转发路由器路由表中的路由。本文为您介绍路由同步的使用限制、路由同步机制以及如何开启和关闭路由同步功能。使用限制 仅企业版转发路由器支持路由同步...
网络时间同步助手
本文介绍如何通过函数计算部署网络时间同步助手，实现设备本地时间与网络时间同步。如果您的设备上已经安装了NTP服务，有和云端服务器周期性同步系统时间的能力，则无需操作本文内容。前提条件 本示例仅适用于Link IoT Edge专业版，在开始...
配置ClickHouse输出组件
批量插入字节大小、批量条数 批量插入字节大小 和 批量条数 均为数据同步的性能参数，用于调试数据同步的速度。批量插入字节大小：数据同步过程中每一次写入数据的字节数据量，默认字节大小为67108864，也就是64MB。批量条数：数据同步过程...
配置ClickHouse输出组件
批量插入字节大小、批量条数 批量插入字节大小 和 批量条数 均为数据同步的性能参数，用于调试数据同步的速度。批量插入字节大小：数据同步过程中每一次写入数据的字节数据量，默认字节大小为67108864，也就是64MB。批量条数：数据同步过程...
线下路由同步方式
线下路由同步方式为智能接入网关学习本地网络私网网段的方式。通过配置线下路由同步方式，智能接入网关可以学习到用户本地网络的私网网段并将私网网段自动同步至阿里云。操作步骤 登录 智能接入网关管理控制台。在顶部菜单栏，选择目标区域...
NTP服务的DDoS攻击
概述 NTP协议（Network Time Protocol）是互联网中标准的网络时间同步协议，应用于分布式时间服务器和客户端之间，实现客户端和服务端的时间同步，从而使互联网内所有设备的时间保持同步。详细信息 NTP服务的DDoS攻击原理 NTP协议是基于UDP...
通过脚本模式配置离线同步任务
说明 任务整体同步速度除受到上述配置影响外，还受源端数据源性能，同步网络环境等多方面影响，关于同步速率说明与调优，详情请参见 离线同步任务调优。步骤五：配置调度属性 周期性调度的离线同步任务需要配置任务自动调度时的相关属性，...
通过向导模式配置离线同步任务
说明 任务整体同步速度除受到上述配置影响外，还受源端数据源性能，同步网络环境等多方面影响，关于同步速率说明与调优，详情请参见 离线同步任务调优。步骤六：配置调度属性 周期性调度的离线同步任务需要配置任务自动调度时的相关属性，...
Dataphin同步任务速度低
问题描述 Dataphin同步任务出现速度低，或者速度为0。解决方案 1.从网络层面判断，来源数据库、去向数据库是否都是一套专线VPC网络。2.region判断，数据库、dataphin是否部署都是在一起，如果有跨国，并且非VPC专网，速度确实可能会慢。3....
概述
是 函数计算 TUPLE/BLOB 实时 否 Hologres TUPLE 实时 否 使用说明 用户使用数据同步时尽可能的进行同一Region的云产品之间的数据同步，一方面避免跨Region网络不通问题，另一方面也减少不同Region之间数据同步的网络时延。由于阿里云的...
数据迁移与同步FAQ
本文为您列出数据迁移与数据同步的常见问题和相关解答。什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：...
MySQL整库周期性增全量同步至Hive
本文以MySQL为源端，Hive为目标端场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到Hive。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以Hive作为...
MySQL整库周期性增全量同步至MaxCompute
本文以MySQL离线同步写入MaxCompute场景为例，为您介绍如何把MySQL整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以MySQL作为来源数据源，以...
全球数据库常见问题
说明 GDN网络中所有集群的数据保持同步，网络中每个集群均提供读写服务，并且提供异地灾备能力。跨地域写数据会受一定的网络延迟影响，GDN网络做了特殊优化，通过多通道物理复制，高压力下全球同步延迟小于2秒。如何清理GDN主从空间以及表...
Hologres整库周期性增全量同步至MaxCompute
本文以Hologres离线同步写入MaxCompute场景为例，为您介绍如何把Hologres整个数据库的数据离线同步到MaxCompute。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以Hologres作为来源...
AnalyticDB for MySQL3.0整库周期性增全量同步至...
本文以AnalyticDB for MySQL3.0离线同步写入Hologres场景为例，为您介绍如何把AnalyticDB for MySQL3.0整个数据库的数据离线同步到Hologres。使用限制 本实践仅支持使用独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。...
配置资源组与网络连通
无法保障公网环境下的数据同步速度和任务稳定性，建议通过内网或者 云企业网 同步。背景信息 复杂网络环境下的数据源进行异构数据源间的数据同步，可选择使用 独享数据集成资源组，需要先进行网络打通。如上图所示，进行数据同步前，需通过...
支持的数据库
全量数据同步 增量数据同步 单向同步 RDS MySQL同步至自建Oracle PolarDB-X 1.0 全量数据同步 增量数据同步 单向同步 从RDS MySQL同步至PolarDB-X PolarDB-X 2.0 库表结构同步 全量数据同步 增量数据同步 单向同步 RDS MySQL同步至PolarDB-...
产品优势
DataWorks具有强大的基础能力，可以为您大幅提升工作效率，保障数据准时产出，助力数据治理，让您零成本构建数据服务。...在数据源性能不受限情况下，让您的同步速度达到万兆。支持单用户千万级别的复杂任务调度，让数据加工更流畅。
离线同步并发和限流之间的关系
分布式执行模式可以将您的任务切片分散到多台执行节点上并发执行，进而做到同步速度随执行集群规模做水平扩展，突破单机执行瓶颈。如果您对于同步性能有比较高的诉求可以使用分布式模式，另外分布式模式也可以使用机器的碎片资源，对资源...
查看同步链路状态和性能
增量同步性能 可查看同步流量、同步速度和同步延迟等信息，单击 更多指标 对应的下拉列表，可选择展示更多的性能指标，例如DDL执行数量、任务延迟、目标库慢SQL数量。相关性能指标说明如下：同步流量：数据写入模块每秒从数据拉取模块拉取...
数据集成概述
但在进行上述网络环境下的数据同步前，您需要确保数据集成用于执行数据同步的资源组与您将同步的数据来源端与目标端网络环境的连通，数据集成支持您根据数据源所在网络环境，选择对应的网络同步任务，关于网络连通方案选择与配置资源组与...
创建异地灾备实例
灾备实例可通过DTS管理控制台实现同步对象变更、同步速度设置、延迟报警等同步链路原生功能，详细信息请参见 DTS产品文档。灾备实例拓扑图如下图所示。灾备实例还有以下功能特点：提供独立的数据库连接地址，由用户应用端自助控制连接。...
出错提示S3磁盘分区数据同步出错
S3_F4：源系统磁盘分区块数据网络同步中断。S3_F40：源系统到目标实例的IP:8703端口网络连接不通。S3_F70：源系统磁盘分区块数据同步卡住导致迁移任务超时。解决方案 不同的错误码对应的解决方案如下：S3_F30、S3_F32、S3_F6 开启块复制...
创建同步任务
开启：分布式执行模式可以将您的任务切片分散到多台执行节点上并发执行，进而做到同步速度随执行集群规模做水平扩展，突破单机执行瓶颈。未开启：配置的并发数据仅仅是单机上的进程并发，无法利用多机联合计算。如果您对于同步性能有比较...
离线同步能力说明
分布式执行任务 部分数据源支持分布式执行任务，分布式执行模式可以将您的任务切片分散到多台执行节点上并发执行，进而做到同步速度随执行集群规模做水平扩展，突破单机执行瓶颈。如果您对于同步性能有比较高的诉求可以使用分布式模式。...
资源组说明
说明 实际任务执行数量取决于网络速率、数据库读写速度、数据量大小、任务调度周期等。通用任务执行资源占比1c2g，支持10个SQL任务并发，日均任务量参考值10w次。说明 实际任务数量取决于数据库SQL执行速度，任务调度周期等。数据服务资源...
资源组说明
说明 实际任务执行数量取决于网络速率、数据库读写速度、数据量大小、任务调度周期等。通用任务执行资源占比1c2g，支持10个SQL任务并发，日均任务量参考值10w次。说明 实际任务数量取决于数据库SQL执行速度，任务调度周期等。数据服务资源...
低成本跨境文件传输
对文件同步延时不敏感，能接受一定程度上网络抖动带来同步文件时的延迟。希望传输数据的系统有足够的弹性和扩展性应对大规模文件的写入。方案简介 云服务器模拟应用访问华东2（上海）和美国（硅谷）的对象存储，负责内容的制作和上传。内容...
全增量数据同步
本文主要介绍全增量数据同步的使用场景，功能列表，迁移优势，使用限制以及创建数据同步任务等操作。使用场景 大版本升级：HBase1.x升级HBase2.x。跨地域迁移：例如从青岛机房迁移到北京机房。跨账号迁移：支持不同账号迁移数据。集群升配...
Phoenix全增量迁移
增量数据同步基于HBase WAL实现异步数据同步，Bulkload的数据、不写WAL的数据将不会被同步。注意事项 迁移前请确认目标集群的HDFS容量，防止迁移过程中出现容量写满的情况。增量同步提交前，推荐修改一下源集群的日志保留时间，给增量同步...
实时同步常见问题
原因之一就是同步的binlog变多，因为binlog是实例级别，即便配置的同步任务只同步了表A，那么没有在任务中的表B、表C等如果发生变更，也会生成binlog，这些额外增加的binlog就会使同步处理的速度变慢。实时同步中选择单库与选择多库的内存...
实时同步任务运行与管理
实时同步任务页面为您展示实时同步任务提交至调度系统后，经过调度系统运行后产生的实时同步任务实例。进入实时任务运维页面 登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>运维中心，在下拉框中选择对应工作空间后单击 进入运维...
E-MapReduce数据迁移方案
bandwidth：指定单个map的同步速度，是靠控制副本复制速度实现的，是大概值。update：校验源文件和目标文件的checksum和文件大小，如果不一致源文件会更新掉目标集群数据，新旧集群同步期间还有数据写入，可以通过-update 做增量数据同步。...
常见问题
资源组操作及网络连通 在做离线同步时，我们需要先了解哪些DataWorks及其网络能力？同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与...
HBase数据同步与迁移
如果您想要将自建HBase或阿里云HBase中的数据迁移或同步至Lindorm 宽表引擎，可以通过LTS服务完成存量数据迁移和实时数据同步。本文介绍HBase数据同步与迁移的使用场景、功能列表、迁移优势、使用限制以及迁移任务等操作。使用场景 自建...
新建网络域
启用网络域将会占用网络域配额，若网络域配额不足，将无法自动启用网络域，此时您可以在 网络域 页面禁用其他网络域、或升级网络域配额。升级操作，请参见 升级特权访问管理中心实例。手动创建网络域并关联资产 新建并启用网络域。登录 ...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
- 产品推荐
- 这些文档可能帮助您