配置MaxCompute输出
您也可以展开业务流程，右键单击目标业务流程，选择 新建节点>数据集成>实时同步。在 新建节点 对话框中，选择同步方式为 单表（Topic）到单表（Topic）ETL，输入 名称，并选择 路径。重要 节点名称必须是大小写字母、中文、数字、下划线...
配置Kafka输出
鼠标悬停至 图标，单击 新建节点>数据集成>实时同步。您也可以展开业务流程，右键单击目标业务流程，选择 新建节点>数据集成>实时同步。在 新建节点 对话框中，选择同步方式为 单表（Topic）到单表（Topic）ETL，输入 名称，并选择 路径。...
2023年
异构数据源访问 同构数据源访问 实时分析（免费公测）实时分析功能包含高速数据导入API和实时数据源集成两部分，可实现数据直接写入Segment（分片单元），避免通过COPY或INSERT方式造成的Master写入负载高的问题，也可实现使用 AnalyticDB ...
数据集成概述
数据集成是稳定高效、弹性伸缩的数据同步平台，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。使用限制 数据同步：支持且仅支持结构化（例如RDS、DRDS等）、半结构化、无结构化（OSS、TXT等，要求具体同步...
MaxCompute数据源
实时写 实时数据同步任务仅支持使用独享数据集成资源组。实时同步节点目前仅支持同步PolarDB、Oracle、MySQL数据源至MaxCompute。实时数据同步任务暂不支持同步没有主键的表。当实时同步至MaxCompute数据源且使用临时AK进行同步时，临时AK...
配置Kafka输入
您也可以展开业务流程，右键单击目标业务流程，选择 新建节点>数据集成>实时同步。在 新建节点 对话框中，选择同步方式为 单表（Topic）到单表（Topic）ETL，输入 名称，并选择 路径。重要 节点名称必须是大小写字母、中文、数字、下划线...
创建Hive数据源
Hive数据源配置参数中，集成配置 是为了支持数据集成，实时研发配置 是为了支持实时研发的场景，而 元数据库配置 是基础的配置，用来获取元数据。说明 通常情况下，生产数据源和开发数据源需配置非同一个数据源，以使开发数据源与生产数据...
DataWorks资源组概述
独享数据集成资源组 独享数据服务资源组 公共资源组 按量付费 开通DataWorks时，阿里云DataWorks会自动为用户提供公共资源组（公共数据服务资源组和 公共调度资源组），公共资源组为DataWorks租户共享，任务运行高峰期可能出现等待资源的...
数据传输与迁移概述
类型 典型场景 数据库Binlog采集 数据集成-数据库实时数据同步。DTS。日志采集 数据集成-实时数据同步（SLS）。SLS数据投递。日志采集客户端LogStash。流计算任务写入 Flink写入MaxCompute结果表。流数据同步任务写入 DataHub数据同步...
Oracle同步至Tablestore
本文以Oracle同步至表格存储Tablestore场景为例，为您介绍如何通过数据集成将Oracle的某张表数据实时同步到Tablestore。使用限制 本实践仅支持使用 独享数据集成资源组。前提条件 已完成来源数据源、去向数据源的配置。本实践以Oracle作为...
MySQL一键实时同步至MaxCompute
为避免上述阶段出现异常导致数据未产出，我们需要分别为实时同步子任务及Merge节点进行监控。实时同步报警配置。进入实时任务运维页面。找到已创建的实时同步任务，单击操作列的 报警设置，进入报警设置页面。在报警设置页面，选择 报警...
MySQL一键实时同步至MaxCompute
为避免上述阶段出现异常导致数据未产出，我们需要分别为实时同步子任务及Merge节点进行监控。实时同步报警配置。进入实时任务运维页面。找到已创建的实时同步任务，单击操作列的 报警设置，进入报警设置页面。在报警设置页面，选择 报警...
查看运维大屏
运维大屏为您展示工作空间的运维稳定性评估、重点关注的运维指标、调度资源使用及周期任务运行概况，以及数据集成同步任务的运行详情，助力您从宏观角度快速了解空间任务的整体概况，及时发现并处理异常任务，提升运维效率。使用说明 运维...
Kafka单表实时入湖OSS（HUDI）
本文以Kafka实时入湖写入至OSS场景为例，为您介绍如何通过数据集成实时入湖。使用限制 Kafka的版本需要大于等于0.10.2小于等于2.2.0。本实践仅支持使用 独享数据集成资源组。准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，...
车场心跳数据缺失
反之判断为车场业务出现异常 车场心跳数据在项目里面有2种方案：边缘车行应用每30秒写边缘数据模型库,实时同步到云端 边缘车行应用每30秒写云端的输数据模型库 1.1 方案 一：边缘写数据实时同步到云端 1.2 方案二：边缘应用直接写云端 1.3 ...
数据开发
说明 DataWorks为您提供了独享数据集成资源组供您使用，公共数据集成（调试）资源组即将下线，详情请参见 DataWorks公共数据集成（调试）资源组下线公告，建议数据同步任务均使用独享数据集成资源组。购买独享数据集成资源组。登录并进入 ...
一键实时同步至MaxCompute
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的表个数有关。数据写入 支持全增量数据实时写入，也支持仅进行增量数据实时...
一键实时同步至MaxCompute
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的表个数有关。数据写入 支持全增量数据实时写入，也支持仅进行增量数据实时...
Kafka实时同步
Hologres与大数据生态无缝打通，您可以通过DataWorks数据集成、Flink以及Hologres Connector等多种方式将Kafka数据实时同步至Hologres，再进行高并发低延时的查询分析处理。相关原理请参见 Kafka Reader 和 Hologres Writer。Kafka通过...
Kafka实时ETL同步至Hologres
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。说明 Kafka与Hologres支持的网络类型如下：Kafka:指定VPC网络、公网。Hologres:指定VPC网络、...
文档修订记录
增强分析（卡片和报告）2023.08.04 新增功能 数据集成 以Kafka实时入湖写入至OSS场景为例，为您介绍如何通过数据集成实时入湖 Kafka单表实时入湖OSS（HUDI）2023年7月更新记录 时间 特性 类别 描述 产品文档 2023.7.31 优化体验 数据服务 ...
一键实时同步至Elasticsearch
背景信息 本方案适用于需要实时监测业务库数据的更新情况，便于上层应用对实时数据进行检索分析或数据开发的场景。方案属性 说明 可同步的表个数 支持将源端多表数据写入至目标端多个索引。支持通过目标索引配置规则实现源端多表数据写入至...
采集数据
新增和使用独享数据集成资源组，详情请参见 新增和使用独享数据集成资源组。需确保至少一个资源组为 可连通 状态，否则此数据源无法使用向导模式创建同步任务。数据同步时，一个任务只能使用一种资源组。您需要测试每个资源组的连通性，以...
离线同步并发和限流之间的关系
目前数据集成绝大多数通道支持脏数据阈值限制能力，对于支持脏数据阈值限制的通道，常见配置场景介绍如下：不配置脏数据限制：表示容忍所有出现的脏数据，遇到脏数据不会导致任务失败，任务配置errorLimit留空。配置脏数据限制为0：表示不...
实时同步常见问题
如果选择忽略TRUNCATE，可能会导致进行实时数据同步时出现多的数据。如何提高实时同步的速度和性能？如果同步写入速度较慢，可以适当增加写入端并发数，调整JVM参数，JVM参数与同步库数量无关，和变更频率有关。在当前资源组机器允许情况下...
创建并管理数据源
周期计算任务 手动计算任务 周期数据集成任务 手动数据集成任务 实时数据集成任务 通过 批量操作 修改任务归属数据源，并重新提交、发布任务。数据服务API 高 导致相关任务调用失败。数据服务API（调用、发布等）数据服务编排 更换数据服务...
LogHub（SLS）实时ETL同步至Hologres
网络与资源配置：在下拉框中分别选择已创建的LogHub数据源、Hologres数据源、独享数据集成资源组，单击 测试所有连通性，保证资源组与数据源之间的网络连通性。配置SLS来源信息。单击页面上方的 SLS来源，编辑SLS来源信息。选择需要同步的...
运维中心概述
数据集成、数据开发模块开发的任务提交或发布后，将进入开发环境或生产环境的运维中心。运维中心为您提供运维概览、任务运维、实例运维、监控管理、系统配置5大功能模块，您可针对提交的任务和生成的实例进行多方位的运维管理。应用场景 ...
一键实时同步至Kafka
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的源端表个数有关。数据写入 运行同步任务后，生成的离线同步任务将全量数据...
ClickHouse数据源
groupId>ru.yandex.clickhouse</groupId><artifactId>clickhouse-jdbc</artifactId><version>0.2.4</version></dependency>使用限制 离线读写 仅支持使用 独享数据集成资源组。支持使用JDBC连接ClickHouse，且仅支持使用JDBC ...
配置并管理实时同步任务
使用限制 实时数据同步任务仅支持使用独享数据集成资源组。实时同步节点目前仅支持同步MySQL、Oracle和PolarDB数据源至Kafka。注意事项 对于源端同步表有主键的场景，同步时会使用主键值作为kafka记录的key，确保同主键的变更有序写入kafka...
一键MaxCompute任务出错恢复
解决方法：进入 数据集成>同步任务 找到目标任务，单击 更多>修改配置 编辑全增量同步任务，可以通过先减表，提交执行流程，再加表，提交执行流程，触发此表的重新同步，跳过该表不支持的DDL。实时任务启动时，修改DDL策略，修改该类型的...
MySQL数据源
实时读取：数据集成实时读取MySQL数据是基于实时订阅MySQL实现的，当前仅支持实时同步MySQL 5.5.x、MySQL 5.6.x、MySQL 5.7.x、MySQL 8.0.x（非8.0新特性，比如 functional index，仅兼容原有功能）版本的MySQL数据，兼容 Amazon RDS for ...
管理数据集成任务
完成数据集成任务的配置后，您可以停止、恢复或删除该数据集成任务。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。背景信息 数据集成任务支持的管理操作及对应的影响请参见下表。操作 影响 停止数据集成...
运维中心概述
数据集成、数据开发模块开发的任务提交或发布后，将进入开发环境或生产环境的运维中心。运维中心为您提供运维概览、任务运维、实例运维、监控管理、系统配置5大功能模块，您可针对提交的任务和生成的实例进行多方位的运维管理。应用场景 ...
创建同步任务
目前数据集成功能支持从RDS、MySQL、SQL Server、PostgreSQL、MaxCompute、OCS、DRDS、OSS、Oracle、FTP、DM、HDFS和MongoDB等数据源中，导入数据至工作空间或从工作空间导出数据。详细的数据源类型列表请参见 支持的数据源与读写插件。...
实时同步任务告警设置最佳实践
对于DataWorks数据集成的实时同步任务、全增量同步任务的实时同步阶段，您可以设置任务告警规则，用来监控同步任务的状态，本文为您介绍实时同步任务告警设置的指标有哪些，并为您示例一个最佳实践。告警规则指标 您可以在DataWorks的运维...
功能特性
Paimon数据源 数据集成和可视化 功能集 功能 功能描述 参考文档 数据集成 通过DataWorks导入数据 云数据库 SelectDB 版支持使用DataWorks的数据集成功能，通过SelectDB Writer导入表数据。本文以MySQL数据源为例，介绍如何通过DataWorks...
配置Elasticsearch输出
您也可以展开业务流程，右键单击目标业务流程，选择 新建节点>数据集成>实时同步。在 新建节点 对话框中，选择同步方式为 单表（Topic）到单表（Topic）ETL，输入 名称，并选择 路径。重要 节点名称必须是大小写字母、中文、数字、下划线...
问题汇总
为什么数据集成任务一直显示wait？为什么会空跑 什么是空跑？为什么会空跑？场景一：周月实例空跑周期 场景二：实时生成的过期实例 场景三：设置成功实例 场景四：实例属性为空跑 场景五：临时工作流中未被选择的实例 日调度任务空跑排查...
- 产品推荐
- 这些文档可能帮助您