数据同步概述
对于数据库类数据：Hologres与DataWorks数据集成（DataX和StreamX）深度集成，支持通过 Hologres Writer 和 Hologres Reader，实现方便高效地将多种数据库数据离线、实时、整库同步至Hologres中，满足各类企业数据同步迁移的需求。...
数据引入概述
Dataphin支持通过数据集成和数据同步的方式，将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单...
数据引入概述
Dataphin支持通过数据集成和数据同步的方式，将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单...
数据集成：全领域数据汇聚
数据集成资源组与网络连通 如上图所示，进行数据同步前，需通过合适的网络连通方案将数据库和数据集成资源组间的网络打通。DataWorks当前支持使用独享数据集成资源组或自定义数据集成资源组，不同资源组的属性与适用场景不同，网络连通方案...
资源组操作及网络连通
如何切换任务在调度系统中执行所用的资源组 在生产运维中心切换任务执行使用的调度资源组和数据集成任务执行资源组：在数据开发界面走发布流程修改生产环境任务执行使用的资源组。说明 以下方式修改资源组请记得发布，标准模式下提交操作...
专有网络VPC的数据源连通独享数据集成资源组
背景信息 如果数据源实例无外网地址，且未和数据集成资源组连通专有网络VPC环境，会导致配置数据源时，公共资源组和独享数据集成资源组测试连通性失败。您可以根据本文的操作，实现独享数据集成资源组连通专有网络VPC下的数据源。操作步骤 ...
产品概述
基于角色和权限自定义数据应用门户 功能总览 数据资产服务是阿里云工业数据应用的核心服务，提供元数据定义功能对需要管理的设备和数据进行模型的预定义，通过工业物联服务采集的实时数据和数据集成服务集成的业务数据基于模型进行实例化...
管理控制台功能概览
管理控制台丰富多样的功能模块，可以帮助用户进行数据开发、数据集成和数据运维，以及监控和管理数据服务的运行状态和性能。功能页面简介 您可在管理控制台页面查看以下信息。功能页面 描述 管理控制台概览页 查看当前账号最近使用的工作...
创建同步任务
在 数据集成 和 任务调度 页签下，分别单击相应资源组后的测试连通性，连通状态为可连通时，表示连通成功。说明 数据同步时，一个任务只能使用一种资源组。您需要测试每种资源组的连通性，以保证同步任务使用的资源组能够与数据源连通，...
AnalyticDB for PostgreSQL数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 512 Writer脚本Demo {"type...
入仓解决方案
入仓解决方案包括：实时同步任务：基于离线数据集成的数据传输服务。新建实时同步任务，请参见 新建实时同步任务。实时迁移任务：基于数据传输服务DTS的数据传输服务。新建实时迁移任务，请参见 新建实时迁移任务。说明 基于DTS的数据同步...
ApsaraDB For OceanBase数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够较大地提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1,024 Writer脚本Demo...
概述
事实上，鉴于数据库研究在数据发现、数据管理、版本控制、数据清理和数据集成方面积累的专业知识，PolarDB for AI 可以为数据驱动的智能应用提供一站式的数据（包括：数据、特征和模型）服务来解决这种割裂状态，大大减少数据驱动的智能...
PostgreSQL数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够较大的提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 512 PostgreSQL ...
Doris概述
使用场景 数据源经过各种数据集成和加工处理后，通常会入库到实时数仓Doris和离线湖仓（Hive、Iceberg和Hudi中），如下图所示。Apache Doris被广泛应用在以下场景中。报表分析 实时看板（Dashboards）。面向企业内部分析师和管理者的报表。...
GBase8a数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够较大地提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1,024 Writer脚本Demo...
Vertica数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够较大地提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1,024 Writer脚本Demo...
SQL Server数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据集成和服务器端的网络交互次数，能够提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1024 对于您配置的 table、...
迁移ECS自建MySQL数据库至MaxCompute
本文为您介绍如何使用独享数据集成资源，将您在ECS上自建的MySQL数据库中的数据，迁移到MaxCompute。前提条件 已拥有至少一个绑定专有网络VPC的ECS（请勿使用经典网络），并在ECS上安装好MySQL数据库，数据库中已创建好用户和测试数据。...
迁移ECS自建MySQL数据库至MaxCompute
本文为您介绍如何使用独享数据集成资源，将您在ECS上自建的MySQL数据库中的数据，迁移到MaxCompute。前提条件 已拥有至少一个绑定专有网络VPC的ECS（请勿使用经典网络），并在ECS上安装好MySQL数据库，数据库中已创建好用户和测试数据。...
离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
查询概述
通过支持数据导入集成，SelectDB可从多种数据源（阿里云数据源、自建数据源）进行数据导入，SelectDB提供稳定、高效、简单易用的数据集成方案。通过支持数据可视化集成，SelectDB可与MySQL生态兼容的可视化工具进行无缝对接，大幅提升数据...
DataStudio侧实时同步任务配置
在 数据来源 区域，选择要同步的数据源 类型 和 数据源 名称等信息。选择要同步的表。在 选择同步的源表 区域，为您展示所选数据源下所有的表，您可以在 源端库表 区域选中需要同步的整库全表或部分表，并单击 图标，将其移动至 已选库表。...
RestAPI（HTTP形式）数据源
支持的字段类型 类型分类 数据集成column配置类型 整数类 LONG，INT 字符串类 STRING 浮点类 DOUBLE，FLOAT 布尔类 BOOLEAN 日期时间类 DATE 数据同步任务开发 数据同步任务的配置入口和通用配置流程指导可参见下文的配置指导，详细的配置...
功能更新动态（2022年之前）
2021年08月19日 华北2（北京）、华东1（杭州）创建Python计算任务 2021年08月24日 华南1（深圳）2021年08月26日 华东2（上海）数据集成：数据集成读取和写入组件拓展、支持为AnalyticDB for PostgreSQL目标数据源一键建表操作、数据源权限...
通过DataWorks导入数据
添加白名单时需要区分独享数据集成资源组和公共数据集成资源组。配置 单表离线同步任务 您可以选择向导模式或者脚本模式配置离线同步任务，操作流程请参见：通过向导模式配置离线同步任务。通过脚本模式配置离线同步任务。通过脚本模式配置...
文档更新动态（2022年之前）
新功能 创建Impala数据源、新建AnalyticDB for MySQL 3.0数据源、Dataphin支持的数据源 2021年08月24日 数据集成：数据集成读取和写入组件拓展、支持为AnalyticDB for PostgreSQL目标数据源一键建表操作、数据源权限申请的交互优化 新增...
功能特性
支持的数据库引擎与功能 三方集成和兼容 三方备份数据的集成和兼容。支持的数据库引擎与功能 沙箱实例 基于Copy Data Management（CDM）技术，通过开启和配置DBS沙箱，快速恢复数据至沙箱实例中，使备份数据快速可用。DBS沙箱功能概览 云灾...
概述
技术领域 从技术领域的角度，Flink主要用于以下场景：实时ETL（Extract-transform-load）和数据流 实时ETL和数据流的目的是实时地把数据从A点投递到B点。在投递的过程中可能添加数据清洗和集成的工作，例如实时构建搜索系统的索引和实时数...
典型场景
典型场景 数据仓库服务 您可以通过数据传输服务（DTS）或数据集成服务（DataX），将云数据库（例如RDS、PolarDB）或自建数据库批量同步到 云原生数据仓库AnalyticDB PostgreSQL版。云原生数据仓库PostgreSQL版支持对海量数据的复杂ETL进行...
新增和使用独享数据集成资源组
您可以使用DataWorks独享数据集成资源组功能，为数据集成同步任务分配独立的计算资源，从而提高任务的执行效率和稳定性。购买独享资源组后，在实际使用前您还需进行网络绑定、白名单等配置操作。本文为您介绍从购买至使用独享数据集成资源...
独享资源组模式
独享资源组的使用详情可参考文档：新增和使用独享调度资源组，新增和使用独享数据集成资源组，新增和使用独享数据服务资源组。拥有 AliyunBSSOrderAccess 权限的RAM用户可以购买资源，并对资源执行相关操作。购买独享资源组 DataWorks独享...
什么是数据管理DMS
DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，致力于帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。视频介绍 功能特性 详情信息，请参见 功能概览。为什么选择数据管理DMS 全域数据...
数仓开发任务流
任务流 说明 相关文档 数据集成 显示任务流中的数据集成节点：DTS数据迁移节点和离线数据集成节点。数据集成节点在项目空间的标准模式下试运行时，节点会空跑，以免生产数据迁移到测试环境的风险。配置DTS数据迁移节点 配置离线数据集成...
使用场景
数据集成与汇总 使用DMS任务编排集成和汇总不同数据源的数据，进行数据聚合和分析，生成报表、统计分析等。实时数据处理 DMS任务编排可以设置定时任务，实现对实时数据的处理和分析。业务流程自动化 结合DMS任务编排的调度和依赖管理功能，...
EMR Hive数据整库离线同步至MaxCompute
准备独享数据集成资源组并与EMR Hive网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和EMR数据源属于同一地域，可使用同地域VPC内网连通独享资源组和...
EMR Hive数据整库离线同步至MaxCompute
准备独享数据集成资源组并与EMR Hive网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和EMR数据源属于同一地域，可使用同地域VPC内网连通独享资源组和...
添加白名单
如果您用独享数据集成资源组同步同阿里云账号，同Region下的VPC环境数据库，您购买添加独享数据集成资源组后，还需完成网络配置和工作空间绑定，操作详情可参见 新增和使用独享数据集成资源组。如果您已完成网络连通配置，但资源组仍然无法...
ClickHouse整库数据离线同步至Hologres
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和数据源属于同一地域，可使用同地域VPC内网连通独享资源组和数据...
Kafka单表实时入湖OSS（HUDI）
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置资源组与网络连通。说明 OSS数据源在下一步新增OSS数据源时，指定Endpoint地址，即可实现OSS数据源与独享...
- 产品推荐
- 这些文档可能帮助您