DataWorks数据集成

说明 具体操作步骤请参考DataWorks 通过脚本模式配置离线同步任务 数据导出 数据导出的步骤和数据导入的步骤一样,区别是在数据导出中,数据源配置需要配置为 AnalyticDB PostgreSQL版(参见 配置AnalyticDB for PostgreSQL数据源),而...

数据源概述

您可以在配置数据源时选择 RAM角色授权模式,并选择相应的自定义RAM角色来访问数据源。详情请参见:通过RAM角色授权模式配置数据源。数据源开发与生产隔离 在配置数据源时,您可以对同一个名称的数据源同时添加开发环境和生产环境两套配置...

创建并管理数据

当使用 连接串模式 配置数据源时,DataWorks会对数据源的 JDBC URL 进行解析。若 JDBC URL 中包含DataWorks暂不支持的参数,DataWorks会将该参数移除。若您希望在 JDBC URL 中继续使用DataWorks不支持的参数,则请 提交工单 联系技术支持...

BigQuery数据

BigQuery数据源为您提供读取BigQuery的功能,方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的BigQuery数据同步能力支持情况。支持的版本及地域 BigQuery使用的SDK版本是 google-cloud-bigquery 2.29.0,...

Amazon Redshift数据

Amazon Redshift数据源为您提供读取和写入Amazon Redshift的双向通道,方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍Amazon Redshift数据同步能力支持情况。支持的Amazon Redshift版本 Amazon Redshift使用的驱动...

Kafka单表实时入湖OSS(HUDI)

RAM角色认证模式 RAM角色认证模式,可以参考文档 通过RAM角色授权模式配置数据源 进行配置。配置完成后,单击 测试连通性,选择您已经完成与OSS网络联通的数据集成独享资源组,确保连通状态为 可连通,即可实现OSS与对应数据集成独享资源组...

使用DataWorks数据集成从MySQL导入数据到GDB

说明 图数据库GDB当前仅支持通过脚本模式配置数据去向,具体请参见 通过脚本模式配置任务。单击工具栏提示信息中的 点击转换为脚本。在配置脚本页面,编辑同步任务参数。以下示例配置是同步数据源 mysql_loader 中数据表 comment 到GDB数据...

OSS数据离线同步至MaxCompute

新建离线同步任务 在数据开发(DataStudio)页面的某个业务流程下,新建一个离线同步节点,根据界面提示配置节点的路径、名称等信息,操作详情请参见 通过向导模式配置离线同步任务。配置数据来源:OSS侧参数 配置离线同步节点的数据来源...

OSS数据离线同步至MaxCompute

新建离线同步任务 在数据开发(DataStudio)页面的某个业务流程下,新建一个离线同步节点,根据界面提示配置节点的路径、名称等信息,操作详情请参见 通过向导模式配置离线同步任务。配置数据来源:OSS侧参数 配置离线同步节点的数据来源...

平台安全诊断

DataWorks工作空间数据源 此安全检测项为您扫描哪些工作空间下的OSS数据源仍在使用Access Key模式,您可以根据 通过RAM角色授权模式配置数据源 对数据源进行改造。数据生产规范化诊断 提升数据产出体系的稳定性与安全性。安全检测维度 安全...

元数据采集的数据源有白名单访问控制时需要配置的白...

使用限制 目前只支持实例形式配置的数据源,或者连接串形式使用公网地址配置的数据源进行元数据采集,暂不支持通过内网地址配置的数据源进行元数据采集,即 连接串模式 配置数据源的时候暂不支持 JDBC URL 设置为VPC的地址。如果您在元数据...

PostgreSQL数据

PostgreSQL数据源为您提供读取和写入PostgreSQL双向通道的功能,方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的PostgreSQL数据同步能力支持情况。支持的版本 目前仅支持配置PostgreSQL数据源为PostgreSQL...

通过RAM角色授权模式配置数据

本文以OSS数据源为例,为您介绍如何通过RAM角色授权模式配置数据源,提高云上数据的安全性。前提条件 如果您需使用RAM用户登录并完成本文操作流程,请先为RAM用户授予 AliyunDataWorksFullAccess 和 AliyunRAMFullAccess 权限策略,详情请...

文档修订记录

关系图 2023.8.25 新增功能 数据集成 Amazon Redshift数据源为您提供读取和写入Amazon Redshift的双向通道,方便您后续可以通过向导模式和脚本模式配置数据同步任务。Amazon Redshift数据源 2023.8.24 新增功能 运维中心 在原有调度配置...

EMR Hive数据整库离线同步至MaxCompute

Hive数据源包括 阿里云实例模式,连接串模式,CDH集群内置模式 三种类型,若您配置的数据源为阿里云EMR,推荐您使用 阿里云实例模式 配置数据源;若您配置的数据源非阿里云EMR,您可以使用 连接串模式 配置数据源;若您的项目空间配置了CDH...

EMR Hive数据整库离线同步至MaxCompute

Hive数据源包括 阿里云实例模式,连接串模式,CDH集群内置模式 三种类型,若您配置的数据源为阿里云EMR,推荐您使用 阿里云实例模式 配置数据源;若您配置的数据源非阿里云EMR,您可以使用 连接串模式 配置数据源;若您的项目空间配置了CDH...

Oracle数据

Oracle数据源为您提供读取和写入Oracle双向通道的功能,方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的Oracle数据同步能力支持情况。支持的版本 离线读写 版本 离线读(Oracle Reader)离线写(Oracle ...

通过函数计算节点实现GitHub实时数据分析与结果发送

访问模式 RAM角色授权模式 Access Key模式 选择角色 当访问模式为 RAM角色授权模式,选择RAM角色,详情请参见 通过RAM角色授权模式配置数据源。AccessKey ID 当访问模式为 Access Key模式,需输入AccessKey信息,详情请参见 查看RAM用户的...

BI分析模式数据面板功能介绍

使用BI分析模式配置组件数据是一个全新的数据配置功能,需要与您准备的数据集内容相结合,您可以使用BI分析模式,为组件自由分配所需数据集的字段内容,合理配置图表数据映射和其他数据筛选等功能。本文介绍BI分析模式下组件数据配置面板...

使用MaxCompute访问

配置数据任务的步骤请参见 通过向导模式配置任务,详细参数设置如下:配置数据走向。如果配置从MaxCompute数据同步到文件引擎时,配置的数据去向的数据源为HDFS。如果配置从文件引擎同步数据到MaxCompute时,配置的数据来源的数据源为HDFS...

Hive数据

如果您配置离线任务时使用脚本模式的方式进行配置,您需要在任务脚本中按照脚本的统一格式要求编写脚本中的reader参数和writer参数,脚本模式的统一要求请参见 通过脚本模式配置离线同步任务,以下为您介绍脚本模式下的数据源的Reader参数...

MaxCompute数据

单表离线同步任务配置指导 操作流程请参见 通过向导模式配置离线同步任务、通过脚本模式配置离线同步任务。脚本模式配置的全量参数和脚本Demo请参见下文的 附录:脚本Demo与参数说明。单表实时同步任务配置指导 操作流程请参见 配置单表...

Salesforce数据

单击 新增数据源,搜索Salesforce并打开,在 新增Salesforce数据源 页面,配置 数据源类型 为 自定义。关键参数配置:参数 说明 登录地址 填写为 https://<Salesforce域名>/services/oauth2/authorize。认证地址 填写为 ...

执行补数据并查看补数据实例(旧版)

执行补数据 选择补数据模式后,根据界面指引配置相关参数,配置完成单击 确定,启动补数据。不同补数据模式配置参数存在差异,具体如下。当前节点补数据 选择当前节点作为本次补数据的任务范围。参数说明如下。参数 描述 补数据名称 平台...

DRDS(PolarDB-X)数据

实时读 目前仅支持使用实例模式配置数据源,如果您使用JDBC连接串配置的数据源,任务运行将会出错。实例的存储类型:仅支持PolarDB(即租户侧PolarDB MySQL)和存量的用户RDS(新购已不支持),不支持RDS MySQL(即私有定制RDS MySQL)。...

OSS数据

OSS数据配置模式 OSS数据配置支持 数仓模式 和 自由模式,两种模式差异如下:OSS数据配置 使用场景 OSS路径格式要求 识别精度 性能 数仓模式 用户直接上传数据到OSS,并期望构建可分析与计算的标准数据仓库。库/表/文件”或者“库/表...

配置数据

本文为您介绍如何配置数据源。前提条件 为了保障数据源和服务资源组之间的正常数据访问,需要完成网络连通与白名单的配置,否则将无法正常执行数据服务的相关任务。公共资源组网络配置,请参见 获取白名单IP地址:公共资源组。独享服务资源...

点热力层(v3.x版本)

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

使用DataWorks

通过向导模式配置并运行数据同步任务 或 通过脚本模式配置并运行数据同步任务 以可视化或脚本模式配置并运行离线同步任务。确认同步结果 在目标数据源侧确认数据同步结果。添加MaxCompute数据源 具体操作请参见 创建MaxCompute数据源。添加...

蜂窝聚合层(v3.x版本)

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

呼吸气泡层(v3.x版本)

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

二维图标层(v3.x版本)

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

业务指标趋势

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

单点柱状层(v3.x版本)

数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...

标签层(v3.x版本)

数据面板(默认模式)说明 当组件是以默认模式添加后,您可以单击数据面板右上角的 分析模式,切换到分析模式数据面板。配置字段说明 字段 说明 lng 标签的经度。lat 标签的纬度。height 标签的高度。icon 标签的图标样式。html 标签图标...

功能更新动态(2023年)

支持配置数据源编码,配置数据源编码后,可在Flink SQL任务中通过 数据源编码.table 或 数据源编码.schema.table 的格式引用MySQL、Hologres和MaxCompute数据源中的表。创建FTP数据源 创建Salesforce数据源 创建OSS数据源 安全设置 安全...

文档更新动态(2023年)

支持配置数据源编码,配置数据源编码后,可在Flink SQL任务中通过 数据源编码.table 或 数据源编码.schema.table 的格式引用MySQL、Hologres和MaxCompute数据源中的表。更新说明 创建FTP数据源 创建Salesforce数据源 创建OSS数据源 管理...

导入MongoDB数据

通过脚本模式配置离线数据同步任务,具体请参见 通过脚本模式配置离线同步任务。创建业务流程。登录 DataWorks控制台。在左侧导航栏,单击 工作空间列表。选择工作空间所在地域后,单击相应工作空间后的 进入数据开发。在 数据开发 页面,...

离线同步数据质量排查

错误的查询检查条件 以MySQL为例,可以配置数据抽取过滤where条件,在where条件中有调度参数变量,具体如 gmt_modify>=${bizdate},常见的错误是调度参数没有合理的替换,比如需要最近两天的数据却只过滤读取1天的数据。以MaxCompute为例,...

创建AnalyticDB for PostgreSQL数据

进行数据同步:DataWorks的数据集成模块为您提供读取和写入数据至AnalyticDB for PostgreSQL的能力,您可将其他数据源的数据同步至当前AnalyticDB for PostgreSQL数据源,或将当前AnalyticDB for PostgreSQL数据源的数据同步至其他数据源。...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
数据传输服务 数据库备份 DBS 云数据库 RDS 云服务器 ECS 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用