离线模式配置概述
本文为您介绍流批一体任务实时模式配置的相关内容。离线模式配置入口 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 流批一体任务 离线模式 配置面板。配置 离线模式 在离线模式配置面板，您需根据下表配置 流批一体任务...
实时模式配置概述
本文为您介绍实时任务实时模式配置的相关内容。实时模式配置入口 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入实时 任务 实时模式 配置面板。配置实时模式 在实时模式配置面板，您需要根据下表配置实时 任务 实时模式的...
离线模式配置概述
本文为您介绍流批一体任务实时模式配置的相关内容。离线模式配置入口 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 流批一体任务 离线模式 配置面板。配置 离线模式 在离线模式配置面板，您需根据下表配置 流批一体任务...
实时模式配置概述
本文为您介绍流批一体任务实时模式配置的相关内容。实时模式配置入口 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 流批一体任务 实时模式 配置面板。配置实时模式 在实时模式配置面板，您需根据下表配置 流批一体任务 ...
实时模式State配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中State 配置 区域，配置任务实时模式的 State配置 信息。State的数据过期时间默认为36小时，可选择天、小时、分钟、秒为单位进行设置。若未填写，将默认...
实时模式State配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中State 配置 区域，配置任务实时模式的 State配置 信息。State的数据过期时间默认为36小时，可选择天、小时、分钟、秒为单位进行设置。若未填写，将默认...
实时模式Checkpoint配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 Checkpoint配置 区域，配置任务实时模式的 Checkpoint配置 信息。重要 在该处配置Checkpoint并在 运行参数 中填写Checkpoint配置时，将以下逻辑进行...
实时模式Checkpoint配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 Checkpoint配置 区域，配置任务实时模式的 Checkpoint配置 信息。重要 在该处配置Checkpoint并在 运行参数 中填写Checkpoint配置时，将以下逻辑进行...
工作原理
伸缩模式 配置方式 说明 固定数量模式 伸缩组+实例配置来源 ① 该模式的伸缩效果由伸缩组以下配置项决定：最小实例数 最大实例数（可选）期望实例数 健康模式 伸缩组+实例配置来源 ① 该模式需要开启伸缩组中 实例的健康检查 配置项。...
离线模式运行参数配置
操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在配置面板中 资源配置 区域，配置任务离线模式的 资源配置 参数信息。不同计算引擎配置离线模式运行参数的操作路径相同，下图以配置Ververica Flink计算引擎的离线...
离线模式依赖文件配置
操作步骤 请参见 离线模式配置入口，进入任务的 离线模式 配置页面。在配置面板中 依赖文件 区域，配置任务离线模式的 依赖文件 信息。在添加依赖文件下拉选项中选择该任务依赖的资源文件。若选项中无所需的资源文件时，您可前往 资源 上传...
离线模式依赖文件配置
操作步骤 请参见 离线模式配置入口，进入任务的 离线模式 配置页面。在配置面板中 依赖文件 区域，配置任务离线模式的 依赖文件 信息。在添加依赖文件下拉选项中选择该任务依赖的资源文件。若选项中无所需的资源文件时，您可前往 资源 上传...
离线模式运行参数配置
操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在配置面板中 资源配置 区域，配置任务离线模式的 资源配置 参数信息。不同计算引擎配置离线模式运行参数的操作路径相同，下图以配置Ververica Flink计算引擎的离线...
实时模式时间参数配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 时间参数 区域，配置任务实时模式的时间参数信息。实时任务的时间参数为 stat_date，可用于实时计算任务的运行时间偏移。例如：您需要计算当天某个指标...
实时模式时间参数配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 时间参数 区域，配置任务实时模式的时间参数信息。实时任务的时间参数为 stat_date，可用于实时计算任务的运行时间偏移。例如：您需要计算当天某个指标...
配置过滤转换组件
支持脚本模式和配置模式。脚本模式：通过脚本方式设置筛选条件。配置模式：通过界面化方式设置筛选条件。支持的 筛选条件 包括=、!LIKE、IS NULL 和 IS NOT NULL、START WITH、END WITH。重要 LIKE操作符不支持使用（%）符号指定起始...
配置过滤转换组件
支持脚本模式和配置模式。脚本模式：通过脚本方式设置筛选条件。配置模式：通过界面化方式设置筛选条件。支持的 筛选条件 包括=、!LIKE、IS NULL 和 IS NOT NULL、START WITH、END WITH。重要 LIKE操作符不支持使用（%）符号指定起始...
场景：配置分库分表离线同步任务
DataWorks支持通过向导模式或脚本模式配置离线同步任务，您可以将分库分表数据同步至目标单表。本文以同步MySQL分库分表数据为例进行说明。前提条件 已准备好要同步的多个数据源，详情请参见 支持的数据源与读写插件。背景信息 分库分表...
模式
配置 模式名称，单击 确认，其中 实例名 和 数据库名称 默认填充当前模式所在的实例和数据库名称，无需修改配置。新建成功的模式会展示在已登录数据库的列表中。管理模式 您可以对模式进行刷新、编辑、新建内部表、新建外部表、批量创建...
配置Kafka输出
列分隔符 当写入模式配置为 text，将源端列按照该配置项指定列分隔符拼接作为写入Kafka记录的Value，支持配置单个或者多个字符作为分隔符，支持以 \u0001 格式配置 unicode 字符，支持 \t、等转义字符。默认值为 \t。配置参数 创建Kafka...
流式ETL
说明文档 配置文档 通过DAG模式配置ETL任务 配置流程通过DAG模式配置ETL任务 配置源库信息 配置转换组件 配置目标库信息 新建连接模板 通过Flink SQL模式配置ETL任务 在DTS迁移或同步任务中配置ETL 最佳实践 使用ETL分析实时订单 DTS任务中...
集成组件库开发说明
IBM DB2 配置IBM DB2输入组件 OceanBase 配置OceanBase输入组件 Teradata 配置Teradata输入组件 脚本模式 配置本地文件输入组件 Hologres 配置Hologres输入组件 ClickHouse 配置ClickHouse输入组件 Kafka 配置Kafka输入组件 DataHub 配置...
DataWorks数据集成
说明 具体操作步骤请参考DataWorks 通过脚本模式配置离线同步任务 数据导出 数据导出的步骤和数据导入的步骤一样，区别是在数据导出中，数据源配置需要配置为 AnalyticDB PostgreSQL版（参见 配置AnalyticDB for PostgreSQL数据源），而...
BigQuery数据源
BigQuery数据源为您提供读取BigQuery的功能，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的BigQuery数据同步能力支持情况。支持的版本及地域 BigQuery使用的SDK版本是 google-cloud-bigquery 2.29.0，...
数据导出到OSS概述
一个同步操作需要新建一个离线任务节点、4 配置离线同步任务并启动 DataWorks数据集成提供了向导模式和脚本模式用于配置离线同步任务，请根据实际选择合适的配置模式。向导模式：通过可视化的填写和下一步的引导，帮助您快速完成数据同步...
同步数据到时序表
value.converter=org.apache.kafka.connect.json.JsonConverter value.converter.schemas.enable=false 此处以配置standalone模式为例介绍，distributed模式的配置步骤与同步数据到数据表时的distributed模式配置步骤类似，只需按照上述...
通过脚本模式配置离线同步任务
当您需要实现更精细化的配置管理时，您可以使用脚本模式配置离线同步任务，通过编写数据同步的JSON脚本并结合DataWorks调度参数使用，将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍脚本模式配置离线同步任务...
离线模式依赖关系配置
操作步骤 请参见 离线模式配置入口，进入 离线模式 配置面板。在离线模式配置面板 依赖关系 区域，配置 依赖关系 设置。参数 描述 开始解析 当节点的任务类型为SQL时，您可以单击 开始解析，系统会解析代码中的表，并查找到与该表名相同的...
离线模式依赖关系配置
操作步骤 请参见 离线模式配置入口，进入 离线模式 配置面板。在离线模式配置面板 依赖关系 区域，配置 依赖关系 设置。参数 描述 开始解析 当节点的任务类型为SQL时，您可以单击 开始解析，系统会解析代码中的表，并查找到与该表名相同的...
什么是ETL
说明文档 配置文档 通过DAG模式配置ETL任务 配置流程 配置源库信息 配置转换组件 配置目标库信息 新建连接模板 通过Flink SQL模式配置ETL任务 在DTS 迁移或 同步任务中配置ETL 最佳实践 使用ETL分析实时订单 DTS任务中配置ETL典型应用
配置Kafka输出组件
当写入模式配置为JSON、目标表字段配置为["col1","col2","col3"]时，写入Kafka的记录Value为字符串{"col1":"a","col2":"b","col3":"c"}。值分隔符 Value分隔符配置。当 写入模式 为 json 时，不支持Value分隔符配置。当 写入模式 为 text ...
配置Kafka输出组件
当写入模式配置为JSON、目标表字段配置为["col1","col2","col3"]时，写入Kafka的记录Value为字符串{"col1":"a","col2":"b","col3":"c"}。值分隔符 Value分隔符配置。当 写入模式 为 JSON 时，不支持Value分隔符配置。当 写入模式 为 Text ...
数据库管理
配置 模式名（SCHEMA_NAME）、所有者（SCHEMA_ELEMENT）及 备注（COMMENT）。说明 所有者（SCHEMA_ELEMENT）默认为当前执行命令的用户。单击 确认。编辑模式 单击目标模式右侧的 编辑，调整 模式名（SCHEMA_NAME）、所有者（SCHEMA_ELEMENT...
实时模式依赖关系配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 依赖关系 区域，配置任务实时模式的依赖关系信息。重要 实时模式下，依赖关系 不实际产生调度依赖。离线模式下，则须配置调度依赖。参数 描述 开始解析...
实时模式依赖关系配置
操作步骤 请参见 实时模式配置入口，进入实时任务的 实时模式 配置页面。在配置面板中 依赖关系 区域，配置任务实时模式的依赖关系信息。重要 实时模式下，依赖关系 不实际产生调度依赖。离线模式下，则须配置调度依赖。参数 描述 开始解析...
Amazon Redshift数据源
Amazon Redshift数据源为您提供读取和写入Amazon Redshift的双向通道，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍Amazon Redshift数据同步能力支持情况。支持的Amazon Redshift版本 Amazon Redshift使用的驱动...
使用DataWorks
通过向导模式配置并运行数据同步任务 或 通过脚本模式配置并运行数据同步任务 以可视化或脚本模式配置并运行离线同步任务。确认同步结果 在目标数据源侧确认数据同步结果。添加MaxCompute数据源 具体操作请参见 创建MaxCompute数据源。添加...
通过向导模式配置离线同步任务
本文为您介绍向导模式配置离线同步任务的常规配置，各数据源配置存在一定差异，请以 具体数据源配置文档 为准。背景信息 数据集成离线同步，为您提供数据读取（Reader）和写入插件（Writer）实现数据的读取与写入，您可通过向导模式和脚本...
通过PrestoDB使用Tablestore
tablestore.schema-mode meta-table 是 Schema模式配置。此处配置为 meta-table。tablestore.meta-instance metastoreinstance 是 Tablestore中用于存储元数据的实例，请根据实际修改。更多信息，请参见 实例。重要 请确保配置的实例已在...
FTP数据源
单表离线同步任务配置指导 操作流程请参见 通过向导模式配置离线同步任务、通过脚本模式配置离线同步任务。脚本模式配置的全量参数和脚本Demo请参见下文的 附录：脚本Demo与参数说明。附录：脚本Demo与参数说明 附录：离线任务脚本配置方式...
- 产品推荐
- 这些文档可能帮助您