配置跨库Spark SQL节点
任务编排中的跨库Spark SQL节点，主要针对各类跨库数据同步和数据加工场景，您可以通过编写Spark SQL，完成各种复杂的数据同步或数据加工的任务开发。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、...
概述
OceanBase MySQL模式、OceanBase Oracle模式、自建OceanBase PolarDB PostgreSQL版（兼容Oracle）Oracle 达梦数据库 DB2 NoSQL：Lindorm 数据仓库：AnalyticDB MySQL版 AnalyticDB PostgreSQL版 DLA MaxCompute Hologres 对象存储：OSS ...
准备用于数据同步的数据库账号
无 双向同步任务对账号权限的要求 双向同步任务要求源和目标数据库具备如下权限，以允许DTS在源和目标数据库中创建库dts，用于做数据防循环复制。数据库 所需权限 创建及授权方式 RDS MySQL 高权限账号。创建数据库和账号。自建MySQL 待...
同步方案概览
源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为TiDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i（AS/400）...
资源组操作及网络连通
数据库和DataWorks不在同一个地域（Region）下，进行数据同步时如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个阿里云账号下，进行数据同步时如何保障数据库与DataWorks的网络连通？访问VPC环境下的数据库测试连通性...
PolarDB-X 2.0同步至自建Oracle
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
PolarDB-X 2.0同步至AnalyticDB PostgreSQL版
如为增量同步任务，DTS要求源数据库的本地Binlog日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因无法获取...
通过联邦分析同步数据
同步库表选择 您可以选择需要同步的数据库和数据表。默认同步源端所有的库表。重要 不支持同步无主键的表，无主键的表会被自动过滤。AnalyticDB MySQL 每个集群最多可创建2048个数据库。更多信息，请参见 使用限制。大表分区键设置 为了...
通过联邦分析功能同步至湖仓版
同步库表选择 您可以选择需要同步的数据库和数据表。默认同步源端所有的库表。重要 不支持同步无主键的表，无主键的表会被自动过滤。AnalyticDB MySQL 每个集群最多可创建2048个数据库。更多信息，请参见 使用限制。大表分区键设置 为了...
PolarDB-X 2.0同步至Tablestore
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
无感集成（Zero-ETL）
阿里云瑶池数据库提供了无感集成（Zero-ETL）功能，可以快速构建业务系统（OLTP）和数据仓库（OLAP）之间的数据同步链路，将业务系统（OLTP）的数据自动进行提取、转换清洗和加载到数据仓库（OLAP），从而一站式完成数据同步和管理，实现...
入仓解决方案
支持的数据库部署位置 有公网IP的自建数据库 无公网IP:Port的数据库（通过数据库网关DG接入）通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能...
JindoFS介绍和使用
OSS带宽、温数据和热数据缓存带宽。元数据 模拟HDFS，不支持目录和文件语义。规模超大，支持EB级别。模拟HDFS，不支持目录和文件语义，支持文件数据缓存。规模超大，支持EB级别。兼容性接近HDFS，性能最高。规模大，支持10亿以上的文件数。...
数据缓存概述
对于一些数据量较大的业务数据，例如训练模型等，ECI支持创建数据缓存（DataCache）来提前拉取数据，将数据缓存到本地，以便在创建ECI实例时可以直接挂载使用，从而减少实例启动耗时，避免数据重复下载，节约使用成本。本文为您介绍什么是...
数据缓存概述
对于一些数据量较大的业务数据，例如训练模型等，ECI支持创建数据缓存（DataCache）来提前拉取数据，将数据缓存到本地，以便在创建ECI实例时可以直接挂载使用，从而减少实例启动耗时，避免数据重复下载，节约使用成本。本文为您介绍什么是...
创建数据库
参数 说明 限制并发量 指对应数据库并发请求执行的上限量，默认不限制，您也可以使用高权限账号登录数据库后，使用 ALTER DATABASE<数据库名>CONNECTION LIMIT<并发量>;命令修改。表空间 指数据库所属的表空间，默认为 pg_default，表空间...
数据集成概述
说明 以业务数据库数据同步到MaxCompute数据仓库为例，当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行...
通过Kafka导入数据
database.server.name=test123#需要同步的数据库和表，默认是同步所有数据库和表 database.include.list=test table.include.list=test.test_table database.history.kafka.bootstrap.servers=localhost:9092#用于存储数据库表结构变化的 ...
创建数据库用户
您在使用数据传输的数据迁移和数据同步功能前，请先在源端和目标端数据库中，为数据迁移或同步任务创建专用的数据库用户。OceanBase 数据源 创建 OceanBase 数据库用户 此处创建的 OceanBase 数据库用户，用于创建 实例类型 为 VPC 内自建...
概述
数据传输是 OceanBase 数据库提供的一种支持同构或异构数据源与 OceanBase 数据库之间进行数据交互的服务，具备在线迁移存量数据和实时同步增量数据的能力。产品功能 数据传输提供可视化的集中管控平台，您只需要进行简单的配置即可实时...
PolarDB-X 1.0同步至PolarDB-X 2.0
如为增量数据同步任务，DTS要求源数据库的本地Binlog日志保存24小时以上，如为全量数据同步和增量数据同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因...
2023年
RDS MySQL实例间的同步 RDS MySQL实例间的迁移 2023年03月 类型 重点内容 相关文档 新增 RDS MySQL实例间的数据同步和迁移，支持同步或迁移源RDS MySQL实例中的数据库账号及权限。RDS MySQL实例间的同步 RDS MySQL实例间的迁移 迁移数据库...
PolarDB PostgreSQL版（兼容Oracle）集群同步至...
如为增量同步任务，DTS要求源数据库的WAL日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的WAL日志至少保留7天以上（您可在全量同步完成后将WAL日志保存时间设置为24小时以上），否则DTS可能因无法获取WAL日志而导致任务...
CREATE DATABASE
数据库层面的配置参数（参见 ALTER DATABASE）和数据库级权限（参见 GRANT）不会从模板数据库中复制。尽管可以通过指定一个数据库作为模板来从其中而不是 template1 复制，这（还）不是“COPY DATABASE”功能的一般目的。主要的限制是在...
云数据库MongoDB版同步至云原生多模数据库Lindorm
数据传输服务DTS（Data Transmission Service）支持将MongoDB（副本集架构或分片集群架构）同步至云原生多模数据库Lindorm（宽表引擎）。Lindorm具有稳定、低成本、简单易用等优势，可以在元数据、订单、账单、画像、社交等场景中，为您...
新功能发布记录
MySQL 租户的全量迁移、增量同步和全量校验 迁移 PolarDB-X 1.0 数据库的数据至 OceanBase 数据库 MySQL 租户 支持批量启动、批量暂停等 9 种常见的批量操作能力，整体提升用户运维操作效率 批量操作数据迁移项目 支持 OceanBase 数据库至 ...
PolarDB PostgreSQL版（兼容Oracle）集群间的双向同步
如为增量同步任务，DTS要求源数据库的WAL日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的WAL日志至少保留7天以上（您可在全量同步完成后将WAL日志保存时间设置为24小时以上），否则DTS可能因无法获取WAL日志而导致任务...
无感数据集成（Zero-ETL）
阿里云瑶池数据库提供了无感集成（Zero-ETL）功能，可以快速构建业务系统（OLTP）和数据仓库（OLAP）之间的数据同步链路，将业务系统（OLTP）的数据自动进行提取、转换清洗和加载到数据仓库（OLAP），从而一站式完成数据同步和管理，实现...
JDBC数据源
指定同步数据库 以下参数和指定同步数据库有关：only_specified_database：在通过JDBC连接时可以指定连接到哪个Database或Schema。如：MySQL的 jdbc_url 中可以指定Database，PostgreSQL的 jdbc_url 中可以指定currentSchema。include_...
通过DMS管理数据库账号
语法：db.getCollection("system.users").find({db:"database_name"})参数说明：database_name 为目标数据库的名称。示例：db.getCollection("system.users").find({db:"admin"})返回结果如下：{ '_id':"admin.root",'userId':BinData(3,"b...
离线同步数据质量排查
数据库则使用来源数据替换目标表已有数据，在目标表存在多个数据约束的情况下，数据替换可能会替换掉多条目标记录 如果写出数据和目标存储已有数据没有发生数据约束，数据库则将来源数据插入（和insert into行为限制一致）到目标存储中。...
ETL工具支持概览
支持的ETL工具见下，可以同时参见更详细的同步方案列表 数据迁移及同步方案综述：数据传输服务（DTS）：阿里云提供的实时数据同步服务，可以将其他数据源（RDS MySQL，ECS自建MySQL，PolarDB等）实时同步数据到 AnalyticDB PostgreSQL版，...
2022年
支持的地域列表 迁移、同步或订阅本地数据库时需添加的IP白名单 2022年5月 类型 重点内容 相关文档 新增 支持Db2 for LUW到 云原生数据仓库 AnalyticDB MySQL 版 3.0的数据同步功能。Db2 for LUW同步至AnalyticDB MySQL版 3.0 新增 支持Db2...
数据集成侧同步任务能力说明
说明 支持的变量解释：DATASOURCE_NAME_SRC：源端数据源名称 DB_NAME_SRC：源端数据库名称 TABLE_NAME_SRC：源表名称 DATASOURCE_NAME_DEST：目标端数据源名称 DB_NAME_DEST：目标端数据库名称 TABLE_NAME_DEST：目标表名称 DB_NAME_SRC_...
PolarDB-X 1.0同步至Elasticsearch
如为增量数据同步任务，DTS要求源数据库的本地Binlog日志保存24小时以上，如为全量数据同步和增量数据同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因...
JindoCache概述
JindoCache（原JindoFSx）是阿里云EMR提供的用于加速云原生数据湖的一个服务。他提供了数据缓存和元数据缓存等加速功能，并根据...缓存策略 JindoCache支持数据缓存（包括分布式数据缓存、一致性哈希数据缓存和本地缓存）和元数据缓存功能。
计费项
重要 若源数据库为分布式实例（PolarDB分布式版、DMS LogicDB、MongoDB），则DTS同步和数据校验功能的价格还与分布式数据库节点数量有关。实例 计费项 计费规则 数据迁移实例 链路配置费用 数据迁移实例仅支持按量付费，计费规则如下：仅在...
产品功能
本文为您介绍云数据库Memcache的产品功能。分布式架构，单节点故障业务不受影响 云数据库Memcache版采用分布式集群架构，每个节点均由双机热备架构组成，具备自动容灾及故障迁移能力。多种规格可适配不同的业务压力，数据库性能支持无限...
Quick BI关于图表查优的相关方法和功能实现介绍
整个BI系统中涉及缓存及加速的模块涉及数据集与仪表板，以下分别从缓存和抽取加速的角度为您介绍功能实现：一、缓存：在配置的缓存时间内，非首次且是相同的查询SQL会从缓存读取数据，不会在下发SQL到用户数据库查询，达到查询加速的效果。...
智能压测
数据库自治服务DAS（Database Autonomy Service）提供智能压测功能，帮助您验证您的实例规格是否需要扩容，有效应对业务流量高峰。本文介绍如何创建压测任务进行智能压测。前提条件 源数据库支持：RDS MySQL PolarDB MySQL版 说明 不支持 ...
- 产品推荐
- 这些文档可能帮助您