ETL
名称 类型 描述 示例值 object ETL name string job name ETL description string job description ETL displayName string job displayName ETL configuration ETLConfiguration 数据加工配置 createTime long 创建时间 lastModifiedTime ...
实时同步能力说明
使用限制 实时同步不支持在数据开发界面运行任务，您需要保存、提交实时同步节点后，在生产环境运维中心运行该节点。实时同步仅支持运行在独享数据集成资源组上，详情请参见 独享数据集成资源组。实时同步任务不支持同步视图。注意事项 ...
查询ETL任务日志
调用DescribeEtlJobLogs接口查看ETL任务运行日志。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String...
Scriptella
Library/scriptella-1.2/etl.xml"2019-12-4 15:02:32<详细>Executing script/etl/script[1]2019-12-4 15:02:33<详细>Executed statement drop table if exists `student_etl`.Update count:0 2019-12-4 15:02:33<详细>Script/etl/script[1...
ETL工具支持概览
支持的ETL工具见下，可以同时参见更详细的同步方案列表 数据迁移及同步方案综述：数据传输服务（DTS）：阿里云提供的实时数据同步服务，可以将其他数据源（RDS MySQL，ECS自建MySQL，PolarDB等）实时同步数据到 AnalyticDB PostgreSQL版，...
alicloud_log_etl
(Optional)Job scheduling type,the default value is Resident.etl_type-(Optional)Log service etl type,the default value is ETL.status-(Optional)Log project tags.the default value is RUNNING,Only 4 values are supported:...
使用列索引加速ETL
PolarDB 支持ETL（Extract Transform Load）功能，开启该功能后，您可以在RW节点上使用列存索引，RW节点的SQL语句中的 SELECT 请求会发送至只读列存节点并使用列存索引功能进行加速查询，读取数据后，PolarDB 会通过内部网络将数据传回RW...
ALIYUN:SLS:Etl
ALIYUN:SLS:Etl类型用于创建数据加工任务。语法 {"Type":"ALIYUN:SLS:Etl","Properties":{"Description":String,"Configuration":Map,"ProjectName":String,"Schedule":Map,"DisplayName":String,"Name":String } } 属性 属性名称 类型 ...
查询ETL任务详情
调用DescribeDtsEtlJobVersionInfo接口查看ETL任务详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action ...
Quick BI数据准备功能报错：“Etl task execution ...
问题描述 Quick BI数据准备功能报错：“Etl task execution failed，reason：the agent task execution failed”。2023-01-31 10:33:44[INFO]Init etl task context,etlId:[92ffec58-0a6d-4a11-9e38-2c4d8973cc87],taskId:[t_308432_...
Lindorm（HBase）数据入库与ETL
栅格数据入库 Pipeline技术 Pipeline模型是DLA Ganos基于GeoTrellis开源项目开发的用于栅格数据快速加载、处理和入库的ETL技术。Pipeline模型包含了一系列功能模块：如读取数据（Load），转换（Transform），保存数据（Save）等。DLA Ganos...
Map映射函数和运算符
示例 日志服务数据加工日志中 etl_context 字段值为map类型，您可以使用下标运算符获取 etl_context 字段值中 project 的值。字段样例 etl_context:{ project:"datalab-148*6461-...
DTS任务中配置ETL典型应用
本文介绍在DTS任务中如何通过配置ETL，解决源实例与目标实例的数据不兼容问题和数据脱敏问题。前提条件 已创建源和目标数据库实例，本文以RDS MySQL间同步为例，创建方法，请参见 创建RDS MySQL实例。目标实例的存储空间须大于原实例占用的...
API实战实践
最佳实践：文件管理OpenAPI基础实践 最佳实践：表管理OpenAPI基础实践 通过OpenAPI创建、修改、删除离线同步任务 最佳实践：数据开发、提交与运行OpenAPI基础实践 最佳实践：数据ETL操作全流程实践 最佳实践：搭建自定义运维大屏 最佳实践...
概述
HoloStudio的数据开发模块与DataWorks无缝连接，提供一站式稳定高效的ETL（Extract-Transform-Load）服务，帮助您使用可视化方式周期性调度作业、创建外部表、同步外部表数据以及上传本地文件。数据开发 的核心功能如下：文件夹 用于存放并...
GetETL-获取数据加工任务
{"name":"ETL","description":"ETL","displayName":"ETL","configuration":{"script":"","logstore":"","roleArn":"","accessKeyId":"","accessKeySecret":"","fromTime":0,"toTime":0,"sinks":[{"name":"","endpoint":"","project":"",...
典型场景
具体包括构建数据湖、数据ETL、交互式查询、机器学习等功能。构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建大规模的可以增删改查的数据集，延迟为T+10分钟。一键建仓：支持数据库一键入湖，T+1天。文件上传：数据...
在DTS迁移或同步任务中配置ETL
数据传输服务DTS（Data Transmission Service）提供的流式数据ETL（Extract Transform Load）数据处理功能，结合DTS的高效流数据复制能力，可以实现流式数据的抽取、数据转换、加工和数据装载。本文介绍在DTS链路内配置ETL的操作步骤及相关...
etlJob
etl-name sourceConfig object 配置数据来源。logstoreName string Logstore 名称。my-logstore triggerConfig object 加工任务触发器配置。roleArn string 角色授权配置，例如角色 ARN 为 acs:ram:13791*44:role/aliyunlogetlrole。acs:...
LogHub（SLS）实时ETL同步至Hologres
本文为您介绍如何LogHub（SLS）实时ETL同步至Hologres任务。新建数据源 配置LogHub（SLS）数据源 您可以手动添加LogHub（SLS）数据源至DataWorks，详情请参见 配置LogHub（SLS）数据源。新建Hologres数据源 获取Hologres数据源信息 进入 ...
兼容性概览
以下列出了 AnalyticDB MySQL版 支持的客户端或ETL工具，以及这些客户端或工具与 AnalyticDB MySQL版 在数据库连通性、列举数据库、建表、查询表数据等方面的兼容性。客户端与 AnalyticDB MySQL版 兼容性 客户端 连接数据库 列举数据库 建...
计算资源使用
通过 set odps.task.wlm.quota=etl_3(i.e.use quota etl_3)命令指定了一个Quota etl_3，若 etl_3 设置了排他模式规则，且作业特征不匹配该规则，提交作业会报错（与普通规则的区别：若 etl_3 只有普通规则，此时作业是可以调度到 etl_3 中...
背景信息以及准备工作
您可以在DLA中创建OSS对应的Schema和文件表，对OSS中不同类型的文件数据进行清洗，然后将得到的结果数据写入AnalyticDB for MySQL 3.0，使得您可以在毫秒级针对...在DLA中建100张表，100张表分别做ETL，单个ETL任务失败，只重试单个ETL任务。
加工引擎启动错误
{"errorMessage":"ETL config doesn't pass security check,detail:XXXXXX"} 说明 错误日志可以在数据加工诊断报表的异常详情中或者internal-etl-log Logstore中查看。在加工引擎启动阶段产生错误时，加工任务会一直重试，直到重试成功或被...
最佳实践：数据ETL操作全流程实践
本文通过案例为您介绍如何通过DataWorks OpenAPI完成数据开发。背景信息 假设一个简单的场景，开发人员想把RDS库里面的数据同步到一张MaxCompute分区表中，然后在自建系统的页面上展示经过数据分析后的报表数据，我们可以通过DataWorks ...
ListETLs-列出数据加工任务
ETL","description":"ETL","displayName":"ETL","configuration":{"script":"","logstore":"","roleArn":"","accessKeyId":"","accessKeySecret":"","fromTime":0,"toTime":0,"sinks":[{"name":"","endpoint":"","project":"","logstore":...
数据质量：全流程的质量监控
数据质量帮助您第一时间感知到源端数据的变更与ETL（Extract Transformation Load）中产生的脏数据，自动拦截问题任务，有效阻断脏数据向下游蔓延。说明 ETL是抽取、转换和加载源端数据至目的端的过程。数据质量以数据集（DataSet）为监控...
生态对接
本文为您介绍MaxCompute支持连接的商业智能BI工具、数据库管理工具及ETL工具。MaxCompute的生态架构如下图所示。商业智能（BI）工具 商业智能（BI）工具支持将计算引擎得到的数据通过仪表板、图表或其他图形输出实现数据可视化，以直观的...
数据存储冷热分层
假设执行用户为 etl_user，将数据库 etl 中的普通表 tiered_storage_heap_oss，设置在次日凌晨1点将普通表转冷。连接到 postgres 数据库，执行以下语句。SELECT cron.schedule('etl_table_transfer_to_cold','0 1*','SELECT pg_tiered_...
Spark Load
基本概念 Spark ETL：在导入流程中主要负责数据的ETL工作，包括全局字典构建（BITMAP类型）、分区、排序和聚合等。Broker：是一个独立的无状态进程。封装了文件系统接口，提供StarRocks读取远端存储系统中文件的能力。全局字典：保存了数据...
CreateETL-创建数据加工任务
sls-test-etl description string 否 数据加工任务描述 this is ETL configuration ETLConfiguration 是 数据加工任务详细配置 返回参数 名称 类型 描述 示例值 headers object Server string 服务器名称 Content-Type string 返回的响应体...
基于MaxCompute进行大数据BI分析
本实践以电商行业为例，通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理，并同步至分析型数据库MySQL（AnalyticDB MySQL）进行实时分析，再通过Quick BI进行可视化展示。背景信息 MaxCompute：用于进行大规模数据计算，详情请...
数据准备
数据准备（轻量ETL）可以将数据源表中的数据进行清洗、聚合、关联和合并等操作，并将加工后的数据输出，让不会写SQL代码的业务人员能够低成本完成BI可视化数据的准备。详细功能介绍如下。
Spark Load
v-+|FE|-+-+-+|3.FE send push tasks|5.FE publish version|+-+-+|+-v-+-v-+-v-+|BE|BE|BE|1.FE submit Spark ETL job+-^-+-^-+-^-+|4.BE push with broker|+-+-+-+-+-+-+|Broker|Broker|Broker|+-^-+-^-+-^-+|+-+-+-+-+2.ETL+-v-+|HDFS+->...
Spark概述
架构 Spark架构如下图所示，基于Spark Core构建了Spark SQL、Spark Streaming、MLlib和Graphx四个主要编程库，分别用于离线ETL（Extract-Transform-Load）、在线数据分析、流计算、机器学习和图计算等场景，详情请参见 Apache Spark官网。...
如何分配开发任务
在团队协同开发任务中，管理员创建好应用之后，可以将应用的开发任务分配给不同的团队成员。为应用分配开发成员 管理员在「应用列表」找到要进行开发任务分配的应用，点击进入「应用详情页」，在左侧菜单点击「开发者管理」，点击「添加...
关于开发小助手
在将开发工程接入 mPaaS 后或基于 mPaaS 插件创建工程后，即可将开发小助手接入开发工程（点击快速了解如何使用开发小助手），使用开发小助手进行调试、帮助开发。说明 开发小助手有以下使用限制：开发小助手仅支持组件化 Portal&Bundle 接...
概述
HoloStudio的数据开发模块与DataWorks无缝连接，提供一站式稳定高效的ETL（Extract-Transform-Load）服务，帮助您使用可视化方式周期性调度作业、创建外部表、同步外部表数据以及上传本地文件。数据开发 的核心功能如下：文件夹 用于存放并...
消息队列Kafka版的审计事件
消息队列Kafka版已与操作...ConsoleKafkaETLTestFCCodeByTopic 测试ETL用户处理代码。ConsoleKafkaInstanceCheckAssumeRole 检测实例权限。ConsoleKafkaInstanceCreateDefaultSlrRole 创建并授予权限。ConsoleKafkaInstanceDelete 删除实例。...
概述
IoT Studio提供了组件开发功能，便于开发者开发、发布和管理自己研发的组件，并将其发布到可视化工作台中用于可视化页面搭建。从而满足开发者的需求，提升组件丰富性，为可视化搭建提供无限可能。使用说明 组件开发功能升级中，暂停新用户...
- 产品推荐
- 这些文档可能帮助您