采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
配置数据层
杭州中心单元 创建同步任务方式 包括直接录入和手动创建的方式：直接录入：如果您在 数据传输控制台 已经创建一个状态为同步中（双向同步的反向同步链路状态也为同步中）的同步任务，则可以直接选择该同步任务进行录入。手动创建：如果您在...
独享数据集成资源组
性能指标 规格 离线同步最大并发线程数 4c8g 8 8c16g 16 12c24g 24 16c32g 32 24c48g 48 规格 单任务建议需要的资源规格 MySQL来源实时同步数据库数1 4c8g MySQL来源实时同步数据库数[2-5]8c16g MySQL来源实时同步数据库数6以上 12c24g ...
低成本跨境文件传输
本文介绍如何通过OSS加速域名，配合函数计算和 云工作流，快速打造低成本、高效的跨境对象存储数据同步传输系统。应用场景 需要跨境传输对象存储数据。对数据的跨境传输成本有严格的控制。对文件同步延时不敏感，能接受一定程度的网络抖动...
低成本跨境文件传输
本文介绍如何通过OSS加速域名，配合函数计算和 Serverless 工作流，快速打造低成本、高效的跨境对象存储数据同步传输系统。应用场景 需要跨境传输对象存储数据。对数据的跨境传输成本有严格的控制。对文件同步延时不敏感，能接受一定程度的...
云数据库MongoDB版（分片集群架构）同步至函数计算FC
数据传输服务DTS（Data Transmission Service）支持将 云数据库MongoDB版（分片集群架构）实例的增量数据同步至函数计算FC的指定函数。您可以编写函数代码，结合同步至函数中的数据，对数据进行二次加工。前提条件 已创建源 云数据库...
全球数据库常见问题
主集群开启 loose_polar_log_bin 参数，Binlog同步仅限于主集群内部节点之间同步，主集群的Binlog不会同步到从集群。从集群开启 loose_polar_log_bin 参数，只会记录在配置文件中，从集群内部并没有进行Binlog同步，也不会连接主集群进行...
DataWorks节点合集
类型 描述 数据集成同步类节点 DataWorks数据集成支持复杂网络环境下的数据同步，并提供用于离线（批量）数据周期性同步的离线同步节点，与用于单表或整库增量数据实时同步的实时同步节点。该节点可在数据开发（DataStudio）界面直接创建。...
DataX同步数据
DataX是异构数据源离线同步的工具，支持多种异构数据源之间高效的数据同步。Dataphin系统内嵌了DataX组件，支持通过构建Shell任务调用DataX，实现数据同步。本教程以RDS MySQL数据库为例，为您介绍基于Dataphin如何调用DataX同步数据。前提...
DataX同步数据
DataX是异构数据源离线同步的工具，支持多种异构数据源之间高效的数据同步。Dataphin系统内嵌了DataX组件，支持通过构建Shell任务调用DataX，实现数据同步。本教程以RDS MySQL数据库为例，为您介绍基于Dataphin如何调用DataX同步数据。前提...
查询子实例间的同步延迟
在使用过程中，您可以随时查询子实例的同步状态、同步延迟和同步数量，掌握同步链路的实时情况。前提条件 Tair 全球多活实例中至少包含2个子实例。关于如何添加子实例，请参见 为分布式实例添加子实例。操作步骤 登录 Tair管理控制台。在...
查询子实例间的同步延迟
在使用过程中，您可以随时查询子实例的同步状态、同步延迟和同步数量，掌握同步链路的实时情况。前提条件 Redis 全球多活实例中至少包含2个子实例。关于如何添加子实例，请参见 为分布式实例添加子实例。操作步骤 登录 Redis管理控制台。在...
门禁物模型
二维码同步[S]同步权限 syncPermissions[E]通行事件 passEvent[E]报警事件 alarmEvent 用权限文件下发的同步门禁 加密二维码[P]RSA公钥（加密二维码）RSAPublicKey 在二维码同步门禁基础上，增加加密功能 人脸 1.0[S]同步人脸库图片 ...
上线离线数据同步任务
新增离线数据同步任务后，需对任务进行上线操作，同步任务上线后会按照创建同步任务中设置的调度周期执行。本文介绍如何上线离线数据同步任务。前提条件 已新增离线数据同步任务，具体操作，请参见 新增离线数据同步任务、批量新增离线数据...
更改 Topic
适用场景 创建数据库至消息队列的数据同步项目时，数据传输支持您在选择需要同步的 Topic 类型后，通过 更改 Topic 功能重新选择 Topic 名称。操作步骤 将数据同步项目配置至 选择同步对象 步骤。详情请参见相应类型的 数据同步 项目文档。...
上线离线数据同步任务
新增离线数据同步任务后，需对任务进行上线操作，同步任务上线后会按照创建同步任务中设置的调度周期执行。本文介绍如何上线离线数据同步任务。前提条件 已新增离线数据同步任务，具体操作，请参见 新增离线数据同步任务、批量新增离线数据...
CREATE TABLE AS（CTAS）语句
通过CTAS语句，在实时同步数据的同时，还能实时将上游表结构（Schema）的变更同步到下游表，提高您在目标存储中创建表和维护源表结构变更的效率。本文为您介绍CREATE TABLE AS（CTAS）的使用方法，并提供了多种使用场景下的示例。前提条件 ...
查看数据同步项目的详情
启动数据同步项目后，您可以在数据同步项目的详情页面查看相应项目的基本信息、同步详情和同步对象等信息。进入详情页面 登录 OceanBase 管理控制台。在左侧导航栏，单击 数据传输>数据同步。单击目标数据同步项目的名称，进入详情页面，...
数据同步方案概览
适用场景 文档链接 MySQL间数据同步 MySQL实例间的双向同步 RDS MySQL实例间的单向同步 从ECS上的自建MySQL同步至RDS 从通过专线、VPN网关或智能接入网关接入的自建MySQL同步至RDS 不同阿里云账号下RDS实例间的数据同步 从RDS MySQL同步至...
线下路由同步方式
线下路由同步方式为智能接入网关学习本地网络私网网段的方式。通过配置线下路由同步方式，智能接入网关可以学习到用户本地网络的私网网段并将私网网段自动同步至阿里云。操作步骤 登录 智能接入网关管理控制台。在顶部菜单栏，选择目标区域...
新建同步任务
本文为您介绍如何构建同步任务，将业务数据源的数据同步到Dataphin平台中的目标表。前提条件 已完成同步目标表的创建，详情请参见 新建同步目标表。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。在数据 开发 页面，按照下图操作指引，...
使用数据传输同步数据
数据同步能够保持源端和目标端的数据一致性，实现关键业务的数据实时流动。本文以同步 OceanBase 数据库的数据至 Kafka 为例，介绍如何使用数据传输同步数据。前提条件 在同步数据之前，您需要确认以下信息：数据传输已具备云资源访问权限...
调转双向同步实例方向
数据传输服务DTS（Data Transmission Service）支持将双向同步实例的方向进行调转。在业务场景需要进行主备数据库切换或双云切换时，您可以轻松地调整已有双向同步实例的方向，而无需重新配置实例。背景信息 DTS为了保障双向同步实例的稳定...
操作流程
数据同步主要内容包括数据源配置、获取物理表、创建同步任务三方面。本文介绍数据同步的操作流程。流程图 流程说明 流程 说明 配置数据源 配置数据同步的源端和目标端。数据同步的源端，是数据同步任务的起点。数据同步目标端是同步的终点...
新建同步任务
本文为您介绍如何构建同步任务，将业务数据源的数据同步到Dataphin平台中的目标表。前提条件 已完成同步目标表的创建，详情请参见 新建同步目标表。操作步骤 登录 Dataphin控制台。在Dataphin控制台页面，选择工作区地域 后，单击 进入...
操作流程
数据同步主要内容包括数据源配置、获取物理表、创建同步任务三方面。本文介绍数据同步的操作流程。流程图 流程说明 流程 说明 配置数据源 配置数据同步的源端和目标端。数据同步的源端，是数据同步任务的起点。数据同步目标端是同步的终点...
全增量同步任务运维
全量离线同步 和 实时同步 区域展示当前查看的全增量同步任务中，全量离线同步 或 实时同步 子任务同步的来源数据源、当前同步速率、同步数据、同步数据的延迟情况及所使用资源组的详细信息。执行步骤 区域展示当前查看的全增量同步任务，...
同步 API
同步 API 可将当前环境中的 API 同步至其他环境中。为保证系统稳定性，只同步目标环境不存在的 API 配置。同步后，会自动加载配置使其生效。操作步骤 登录 mPaaS 控制台，在左侧导航栏，点击 移动网关 菜单。在 API 管理 标签页中，点击 更...
场景：配置增量数据离线同步任务
离线同步任务支持您通过配置类似的数据过滤功能来决定同步全量数据还是增量数据，配置过滤条件时，将只同步满足过滤条件的数据。同时，过滤条件可以结合调度参数使用，实现过滤条件随任务调度时间的动态变化，进而实现增量数据的同步。该...
极速同步
您可以使用极速同步功能，将OSS Bucket中的数据变化极速同步至所有通过文件网关连接至该Bucket的本地客户端。前提条件 已创建文件网关并添加缓存。具体操作，请参见 创建文件网关 及 添加缓存。已创建OSS Bucket。具体操作，请参见 控制台...
跨云账号单向同步云数据库Redis实例
说明 目标云数据库Redis支持的版本为4.0或5.0版本，如需跨版本同步（仅支持从低版本同步到高版本）请提前确认兼容性。例如创建按量付费的云数据库Redis来测试，测试完成后可将该实例释放或转为包年包月。跨云账号同步Redis实例支持集群架构...
查看和修改迁移参数配置
如果开启，请设置 RPS（增量同步阶段每秒最多可以同步至目标端的数据行数的最大值限制）和 BPS（增量同步阶段每秒最多可以同步至目标端的数据量的最大值限制）。说明 此处设置的 RPS 和 BPS 仅作为限速限流能力，增量同步实际可以达到的...
查看同步链路状态和性能
DTS可以展示全量同步性能、显示并诊断 增量同步性能，使您可以了解数据同步作业的链路状态信息和多种性能指标，为您管理数据同步作业提供参考依据。操作步骤 登录 数据传输控制台。说明 若数据传输控制台自动跳转至数据管理DMS控制台，您...
启用或禁用SCIM同步
您可以从支持SCIM 2.0的外部IdP同步用户或用户组到云SSO。本文为您介绍在云SSO如何启用SCIM同步、获取SCIM服务端地址、禁用SCIM同步的具体操作。启用SCIM同步 启用SCIM同步后，您才能从外部IdP同步用户或用户组到云SSO。同时，您还需要创建...
添加数据源
阿里云 云备份 提供非结构化文件系统类数据同步功能，可以将源端数据源（包括NAS、HDFS、S3兼容存储、对象存储OSS、CPFS、OSS协议兼容存储 等）同步至目的端数据源（包括阿里云上）。首次数据同步前，您需要添加源端数据源和目的端数据源。...
同账号同步实例
若您想实现跨地域的镜像同步，可以通过配置同步规则，将容器镜像从源实例同步至目标实例。前提条件 同步实例时，请确保您的源实例为标准版或高级版，基础版的源实例不支持同步实例。目标实例可以是基础版、标准版或高级版。说明 您可以在...
列过滤
操作步骤 将数据同步项目配置至 选择同步对象 步骤。详情请参见相应类型的 数据同步 项目文档。选择同步对象和映射方式后，在 选择同步范围 区域右侧的 目标端对象 列表中，鼠标悬停至目标对象，单击显示的 设置。在 设置 对话框的 选择列 ...
迁移、同步或订阅对象说明
dml_op":"需增量迁移或同步的DML操作","ddl_op":"需增量迁移或同步的DDL操作"} } },"待迁移、同步或订阅的库3的名称":{"name":"迁移、同步或订阅的库3在目标实例中的名称","all":true（表示迁移、同步或订阅对象为整库）,"dml_op":"需增量...
数据同步概述
Dataphin支持通过数据同步的方式，将业务数据源的数据引入Dataphin平台。背景说明 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单高效、安全...
- 产品推荐
- 这些文档可能帮助您