新建元表
MySQL数据源 代码示例如下：create table import_table(retailer_code INT comment '',qty_order VARCHAR comment '',cig_bar_code INT comment '',org_code INT comment '',sale_reg_code INT comment '',order_date TIMESTAMP comment ''...
新建元表
MySQL数据源 代码示例如下：create table import_table(retailer_code INT comment '',qty_order VARCHAR comment '',cig_bar_code INT comment '',org_code INT comment '',sale_reg_code INT comment '',order_date TIMESTAMP comment ''...
支持识别的OSS文件类型
序号 文件类型 序号 文件类型 1 C、C++源代码 85 Tokyo Cabinet数据库文件 2 Lua源代码 86 X3D(Extensible 3D)Model XML文件 3 Javascript源代码 87 XML文档 4 VRML虚拟现实建模语言代码 88 XML Sitemap文件 5 BCPL源代码 89 DBF数据库文件...
连接方式概述
使用 Oracle 的 OCI 编写的 C 语言时，无需修改源代码，只需在链接时指定运行时库为 OBCI 库，该库文件默认安装到/u01/obclient/lib 路径下。OBCI 驱动安装包请联系技术支持获取。使用 C 语言连接 OceanBase 数据库的具体操作示例请参见 C ...
创建Oracle数据源
说明 通常情况下，生产数据源和开发数据源需配置非同一个数据源，以使开发数据源与生产数据源的环境隔离，降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源，即相同参数值。参数 描述 JDBC URL 链接地址的格式为 ...
创建Oracle数据源
说明 通常情况下，生产数据源和开发数据源需配置非同一个数据源，以使开发数据源与生产数据源的环境隔离，降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源，即相同参数值。参数 描述 JDBC URL 链接地址的格式为 ...
组件数据源配置
数据项配置 说明 数据源 组件的数据源中通过 代码编辑 或 可视化编辑 展示了组件所包含的数据字段。也可以修改 数据类型，灵活配置组件数据。数据映射 当您需要自定义图表字段配置时，可以在 数据映射 模块设置不同的字段映射内容，将这些...
新建离线自定义源类型
数据源JSON 填写数据源JSON代码及上传读写插件：填写数据源JSON代码，即定义数据源的配置项，代码示例说明如下：[{"columnName":"url","columnType":"NORMAL","text":{"zh_CN": "链接地址","en_US":"address","zh_TW":"繁体"},"placeholder...
新建离线自定义源类型
数据源JSON 填写数据源JSON代码及上传读写插件：填写数据源JSON代码，即定义数据源的配置项，代码示例说明如下：[{"columnName":"url","columnType":"NORMAL","text":{"zh_CN": "链接地址","en_US":"address","zh_TW":"繁体"},"placeholder...
自定义区域下钻层（v4.x版本）
数据项配置 说明 数据源 组件的数据源中通过 代码编辑 或 可视化编辑 展示了组件所包含的数据字段。也可以修改 数据类型，灵活配置组件数据。数据映射 当您需要自定义图表字段配置时，可以在 数据映射 模块设置不同的字段映射内容，将这些...
查看数据源校验记录
数据源校验记录用于记录质量规则校验数据源的结果。本文为您介绍如何查看数据源质量规则的校验记录。数据源校验记录 在Dataphin首页，单击顶部菜单栏的 资产。按照下图操作指引，进入 数据源 校验记录页面。参数 说明 筛选与搜索 您可以...
查看数据源校验记录
数据源校验记录用于记录质量规则校验数据源的结果。本文为您介绍如何查看数据源质量规则的校验记录。数据源校验记录 在Dataphin首页，单击顶部菜单栏的 资产。按照下图操作指引，进入 数据源 校验记录页面。参数 说明 筛选与搜索 您可以...
配置并管理实时同步任务
正常处理：源端DML消息将会继续下发给目标数据源，由目标数据源来处理。忽略：直接丢弃该消息，不再向目标数据源发送对应的DML消息，对应数据不会改变。有条件的正常处理：选择后，您可以配置过滤条件，同步任务将按照您配置的过滤表达式对...
MySQL分库分表同步至MaxCompute
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
MySQL分库分表同步至MaxCompute
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
MySQL分库分表同步至Hologres（方案1.0）
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
一键实时同步至Hologres
正常处理：源端DML消息将会继续下发给目标数据源，由目标数据源来处理。忽略：直接丢弃该消息，不再向目标数据源发送对应的DML消息，对应数据不会改变。有条件的正常处理：选择后，您可以配置过滤条件，同步任务将按照您配置的过滤表达式对...
节点类型说明
流式类节点 流式节点，运行于流式云计算资源之上，一般支持对多种类型的数据处理。节点类型 对应的云计算资源类型 说明 Blink Blink 流式节点，运行于Blink云计算资源之上，支持对DataHub、AnalyticDB MySQL、Table Store、MaxCompute、...
常见问题
本文为您介绍数据集成任务常见问题。资源组操作及网络连通 在做离线同步时，我们需要先了解哪些DataWorks及其网络能力？同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下...
自定义区域下钻层（v3.x版本）
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
创建并管理数据源
若您想在DataWorks操作您的数据库或数据仓库（例如，MaxCompute项目数据），需先在DataWorks的数据源管理页面，将数据库或数据仓库创建为DataWorks的数据源，并将该数据源绑定至DataWorks相应的功能模块使用。例如，同步MaxCompute数据前，...
通过函数计算节点实现GitHub实时数据分析与结果发送
通过DataWorks的任务调度能力，实现过去1小时Github热门编程语言数据自动更新，并将数据处理结果发送至指定邮箱。操作步骤 ETL模板配置 本实验中的，任务代码可以通过ETL工作流模板一键导入，直接体验。在导入模板后，您可以前往目标工作...
配置AnalyticDB for MySQL 3.0输出组件
同步其他数据源的数据至AnalyticDB for MySQL 3.0数据源的场景中，完成源数据源的信息配置后，需要配置AnalyticDB for MySQL 3.0输出组件的目标数据源。本文为您介绍如何配置AnalyticDB for MySQL 3.0输出组件。前提条件 已创建AnalyticDB ...
配置AnalyticDB for MySQL 3.0输出组件
同步其他数据源的数据至AnalyticDB for MySQL 3.0数据源的场景中，完成源数据源的信息配置后，需要配置AnalyticDB for MySQL 3.0输出组件的目标数据源。本文为您介绍如何配置AnalyticDB for MySQL 3.0输出组件。前提条件 已创建AnalyticDB ...
产品概述
阿里云流数据处理平台数据总线DataHub是流式数据（Streaming Data）的处理平台，提供对流式数据的发布(Publish)，订阅（Subscribe）和分发功能，让您可以轻松构建基于流式数据的分析和应用。数据总线 DataHub服务可以对各种移动设备，应用...
添加OSS数据源
添加OSS数据源用于实现 云原生多模数据库 Lindorm 宽表引擎读取OSS的数据。如果您要将OSS数据导入到 云原生多模数据库 Lindorm 宽表中，需要先添加OSS数据源。本文介绍如何添加OSS数据源。前提条件 已购买LTS服务，具体操作请参见 购买并...
配置同步任务
数据库类型 数据源 关系型数据库 MySQL、Oracle、Microsoft SQL Server、PostgreSQL、AnalyticDB for PostgreSQL 开源大数据数仓存储 Hive、TDH Inceptor 说明 HBase作为数据源或者目标数据源，支持的版本为HBase V1.1.x、HBase V0.94.x。...
配置Greenplum输出组件
配置Greenplum输出组件，可以将外部数据库中读取的数据写入到Greenplum，或从大数据平台对接的存储系统中将数据复制推送至Greenplum，进行数据整合和再加工。本文为您介绍如何配置Greenplum输出组件。前提条件 已创建Greenplum数据源。具体...
配置Greenplum输出组件
配置Greenplum输出组件，可以将外部数据库中读取的数据写入到Greenplum，或从大数据平台对接的存储系统中将数据复制推送至Greenplum，进行数据整合和再加工。本文为您介绍如何配置Greenplum输出组件。前提条件 已创建Greenplum数据源。具体...
什么是EMR Notebook
EMR Notebook是一个Serverless化的交互式数据分析和探索平台，满足大数据和AI融合下的数据处理需求，为数据工程师、数据分析师和数据科学家提供了可视化的应用程序开发环境。通过EMR Notebook可以完成对SQL、Python、Markdown等多种语言...
文档更新动态（2023年）
更新说明 创建MySQL数据源 创建PolarDB-X数据源 创建AnalyticDB for MySQL 2.0数据源 创建AnalyticDB for PostgreSQL数据源 创建达梦（DM）数据源 创建TiDB数据源 创建Kafka数据源 离线集成配置优化 新增Apache Doris数据源的离线集成。...
使用DataWorks
当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时，您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的数据导出至其他数据源。背景信息 数据集成的导出方式有如下两种：向导模式：创建离线同步节点后，...
功能更新动态（2023年）
创建MySQL数据源 创建PolarDB-X数据源 创建AnalyticDB for MySQL 2.0数据源 创建AnalyticDB for PostgreSQL数据源 创建达梦（DM）数据源 创建TiDB数据源 创建Kafka数据源 离线集成 新增Apache Doris数据源的离线集成。整库迁移任务支持...
CREATE LANGUAGE
一种过程语言的调用处理器必须以一种编译型语言（如 C）编写并且具有版本 1 的调用约定，它必须在 PolarDB内注册为一个没有参数并且返回 language_handler 类型的函数。language_handler 是一种占位符类型，它被用来标识该函数为一个调用...
蓝图编辑器常见案例教学
将需要配置交互的组件导入到蓝图编辑器，将翻牌器中 当数据接口请求完成时 与串行数据处理节点中的 更新翻牌器配置 相连，并在串行节点中写入处理方法。说明 翻牌器在请求完成后，判断数据中的 value 值，如果大于60则更新数字颜色为红色，...
文档修订记录
开发前准备：绑定数据源或集群 2023.12.29 新增功能 数据源 为给您带来更统一的产品使用体验，DataWorks将MaxCompute、Hologres、AnalyticDB for PostgreSQL、AnalyticDB for MySQL、ClickHouse计算引擎合并至数据源管理；将E-MapReduce...
功能发布记录（2023年）
2023.06.01 所有地域 所有DataWorks用户 行业模型模板 Kafka数据源实时同步Hologres并进行ETL Kafka数据源至Hologres的实时同步可以实现同步过程中对于Kafka的JSON含义解析，以及其他基本的数据处理，实现实时同步的ETL流程。支持指定JSON...
配置同步任务
数据输出前和输出完成的特殊处理方式，比如为了满足服务的持续可用性，当前步骤写数据执行前先创建目标表Target_A，执行写入到目标表Target_A，当前步骤写数据执行完成后，对数据库中持续提供服务的表Service_B重命名成Temp_C，然后将表...
什么是ETL
在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字化转型。为什么选择ETL ETL支持通过DAG模式和Flink SQL模式配置任务。DAG模式 可视化处理编辑：ETL任务界面当前提供三种组件（输入/维表、转换...
流式ETL
在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字化转型。为什么选择ETL ETL支持通过DAG模式和Flink SQL模式配置任务。DAG模式 可视化处理编辑：ETL任务界面当前提供三种组件（输入/维表、转换...
- 产品推荐
- 这些文档可能帮助您