支持的ETL工具见下,可以同时参见更详细的同步方案列表 数据迁移及同步方案综述:数据传输服务(DTS):阿里云提供的实时数据同步服务,可以将其他数据源(RDS MySQL,ECS自建MySQL,PolarDB等)实时同步数据到 AnalyticDB PostgreSQL版,...
以下列出了 AnalyticDB MySQL版 支持的客户端或ETL工具,以及这些客户端或工具与 AnalyticDB MySQL版 在数据库连通性、列举数据库、建表、查询表数据等方面的兼容性。客户端与 AnalyticDB MySQL版 兼容性 客户端 连接数据库 列举数据库 建...
云原生数据仓库AnalyticDB PostgreSQL版 具备完善和开放的生态系统,支持无缝对接业界以及阿里云生态的数据管理工具,BI报表可视化工具,ETL工具,数据迁移工具,同时可以与业界流行的流式处理系统,日志类系统,大数据类系统,传统数仓及...
数据库管理工具 ETL工具连接 通过ETL工具连接MaxCompute并进行开发作业调度,目前主要支持Kettle、Apache Airflow、Azkaban。ETL工具连接 BI工具对接 支持Tableau、FineBI、FineReport、Davinci、Superset、Yonghong BI、Quick BI、观远BI...
Kettle(Tunnel通道系列)Kettle是一款开源的ETL工具,纯Java实现,可以在Windows、Unix和Linux上运行,提供图形化的操作界面,可以通过拖拽控件的方式,方便地定义数据传输的拓扑。详情请参见 基于Kettle的MaxCompute插件实现数据上云。...
栅格化GIS应用及航天航空遥感应用 HBase Ganos提供了针对栅格数据管理的通用化模型支持,能够有效支撑大规模遥感影像数据和GIS栅格GRID数据的存储、查询和基础分析处理能力,包括ETL工具支持遥感影像重投影、拼接、切片、入库,支持OGC WMS...
由于DTS不迁移USER信息,因此在调用目标库的视图、存储过程和函数时,需要对调用者授予读写权限。全量迁移 DTS将源库中迁移对象的存量数据,全部迁移到目标库中。增量迁移 DTS在全量迁移的基础上,将源库的增量更新数据迁移到目标库中。...
ETL过程日志 这一部分日志是在ETL执行过程中每执行一步记录的关键点和错误信息,包括某一步骤的开始和结束时间、初始化动作完成情况、模块出错信息等。ETL过程日志的意义是随时可以感知ETL运行情况,如果发生错误,可以及时通过过程日志...
数据质量监控 通过 DataWorks数据质量 模块,对周期性ETL(Extract Transformation Load)操作过程中产生的脏数据进行监控,监控不通过则阻断任务执行,避免影响扩大。学习如何基于DataWorks为任务产出的表,配置数据质量的监控规则,以...
迁移类型说明 结构迁移 DTS将迁移对象的结构定义迁移到目标实例,目前DTS支持结构迁移的对象为表、视图、表触发器、同义词、SQL 存储过程、SQL 函数、plan guid、自定义类型、rule、default、sequence。全量数据迁移 DTS会将Amazon RDS SQL...
不支持结构迁移的对象:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。全量迁移 DTS将源库中迁移对象的存量数据,全部迁移到目标库中。...
在投递的过程中可能添加数据清洗和集成的工作,例如实时构建搜索系统的索引和实时数仓中的ETL过程等。实时数据分析 实时数据分析指的是根据业务目标,从原始数据中抽取对应信息并整合的过程。例如,查看每天销量前10的商品、仓库平均周转...
若选择的迁移对象为表,其他对象(如视图、触发器、存储过程)不会被迁移至目标库。若选择的迁移对象为整库,默认情况如下:源库中待迁移的表有主键(包含主键为单列和多列),则以该主键列为分布键。源库中待迁移的表无主键,则自动生成...
不支持迁移的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。警告 由于此场景属于异构数据库间的数据迁移,数据类型无法一一...
不支持结构初始化的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。不支持同步数据类型为TIMESTAMP、CURSOR、ROWVERSION、...
不支持结构初始化的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。不支持同步数据类型为TIMESTAMP、CURSOR、ROWVERSION、...
若选择的迁移对象为表或列,其他对象(如视图、触发器、存储过程)不会被迁移至目标库。已选择对象 右键单击 已选择对象 下方的目标数据库,在弹出的 编辑Schema 对话框中,将 Schema名称 修改为Oracle中用于接收数据的Schema名称。更多...
不支持结构初始化的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。不支持同步数据类型为TIMESTAMP、CURSOR、ROWVERSION、...
不支持迁移的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。警告 由于此场景属于异构数据库间的数据迁移,数据类型无法一一...
完成需求阶段的工作后,数据产品经理会产出最终版本的产品...数据流设计 ETL过程中,数据流向有如下限制:数据流向仅支持由低到高,即ODS->DWD->DWS->ADS。数据不能跨层引用、逆向引用。DWS层不同集市的数据不能相互引用,必须沉淀到DWD层。
在投递的过程中可能添加数据清洗和集成的工作,例如实时构建搜索系统的索引、实时数仓中的ETL过程等。实时数据分析 数据分析指的是根据业务目标,从原始数据中抽取对应信息并整合的过程。例如,查看每天销量前10的商品、仓库平均周转时间、...
若选择的同步对象为表或列,其他对象(如视图、触发器、存储过程)不会被同步至目标库。已选择对象 右键单击 已选择对象 下方的目标数据库,在弹出的 编辑Schema 对话框中,将 Schema名称 修改为Oracle中用于接收数据的Schema名称。更多...
目前支持的对象包括:表、视图、同义词、触发器(不兼容)、存储过程、存储函数、包、自定义类型。重要 不兼容触发器。当迁移对象包含了触发器可能导致数据不一致。全量数据迁移 DTS会将源库中迁移对象的存量数据,全部迁移至目标PolarDB...
目前DTS支持的对象为表、视图、同义词、触发器、存储过程、存储函数、包和自定义类型。说明 不兼容触发器。建议您删除源库的触发器,以避免因触发器而导致数据不一致的问题。详情请参见 源库存在触发器时如何配置同步作业。全量数据迁移 ...
不支持结构初始化的结构对象有:assemblies、service broker、全文索引、全文目录、分布式schema、分布式函数、CLR存储过程、CLR标量函数、CLR表值函数、内部表、系统、聚合函数。不支持迁移数据类型为TIMESTAMP、CURSOR、ROWVERSION、...
目前DTS支持的对象包括:表、视图、同义词、触发器、存储过程、存储函数、包、自定义类型。说明 暂不兼容触发器。建议您删除源库的触发器,以避免因触发器而导致数据不一致的问题。详情请参见 源库存在触发器时如何配置同步作业。全量数据...
数据质量监控 通过 DataWorks数据质量 模块,对周期性ETL(Extract Transformation Load)操作过程中产生的脏数据进行监控,监控不通过则阻断任务执行,避免影响扩大。学习如何基于DataWorks为任务产出的表,配置数据质量的监控规则,以...
说明 DTS暂不支持结构迁移视图、同义词、存储过程、存储函数、包、自定义类型等。警告 此场景属于异构数据库间的数据迁移,DTS在执行结构迁移时数据类型无法完全对应,请谨慎评估数据类型的映射关系对业务的影响,详情请参见 异构数据库间...
目前DTS支持的对象包括:表、视图、同义词、触发器、存储过程、存储函数、包、自定义类型。说明 暂不兼容触发器。建议您删除源库的触发器,以避免因触发器而导致数据不一致的问题。详情请参见 源库存在触发器时如何配置同步作业。全量数据...
说明 DTS暂不支持结构迁移视图、同义词、存储过程、存储函数、包、自定义类型等。警告 此场景属于异构数据库间的数据迁移,DTS在执行结构迁移时数据类型无法完全对应,请谨慎评估数据类型的映射关系对业务的影响,详情请参见 异构数据库间...
若选择的迁移对象为表或列,其他对象(如视图、触发器、存储过程)不会被迁移至目标库。已选择对象 如需更改单个迁移对象在目标实例中的名称,请右击 已选择对象 中的迁移对象,设置方式,请参见 库表列名单个映射。如需批量更改迁移对象在...
若选择的迁移对象为表或列,其他对象(如视图、触发器、存储过程)不会被迁移至目标库。已选择对象 如需更改单个迁移对象在目标实例中的名称,请右击 已选择对象 中的迁移对象,设置方式,请参见 库表列名单个映射。如需批量更改迁移对象在...
您可以使用下列表中列出的函数和存储过程来控制剖析工具。表 1.DBMS_PROFILER函数/存储过程 函数/存储过程 类型 返回类型 描述 FLUSH_DATA 函数、存储过程 Status code、exception 刷新当前会话中收集的性能数据。GET_VERSION(major OUT,...
使用列索引加速ETL过程。具体操作请参见 使用列索引加速ETL。加速访问OSS外表。具体操作请参见 分析外部OSS上的数据。使用Serverless降低负载峰谷差较大的业务场景下的使用成本。具体操作请参见 列存节点开启Serverless。对于大宽表,可以...
说明 本场景为异构数据库间同步,因此同步对象选择的粒度为表,且其他对象(如视图、触发器、存储过程)不会被同步至目标库。已选择对象 如需更改单个同步对象在目标实例中的名称,请右击 已选择对象 中的同步对象,设置方式,请参见 库表...
存储过程是作为单个 SPL 程序语句调用的独立 SPL 程序。调用时,存储过程可选择以输入参数的形式从调用方接收值,并可选择以输出参数的形式向调用方返回值。CREATE PROCEDURE 命令可定义并命名一个将存储在数据库中的独立存储过程。如果...
通过将SPL代码组织为子存储过程和子函数,可以有利地运用SPL存储过程和函数程序的能力和功能来构建结构良好且易于维护的程序。通过在SPL程序中声明子存储过程和子函数,可从相对较大的SPL程序中的不同位置多次调用相同的SPL代码。子存储...
删除存储过程。语法 DROP PROCEDURE[IF EXISTS]name[([[argmode][argname]argtype][,.])][CASCADE|RESTRICT]说明 DROP PROCEDURE 删除现有程序的定义。要执行该命令,您必须是超级用户或存储过程的所有者。如果这是一个重载存储过程,则...
定义新存储过程。语法 CREATE[OR REPLACE]PROCEDURE name[(parameters)][IMMUTABLE|STABLE|VOLATILE|DETERMINISTIC|[NOT]LEAKPROOF|CALLED ON NULL INPUT|RETURNS NULL ON NULL INPUT|STRICT|[EXTERNAL]SECURITY INVOKER|[EXTERNAL]...
您可从另一个 SPL 程序调用存储过程,只需指定该存储过程名称,后跟其参数(如果有),最后以分号结尾。name[([parameters])];其中:name 是存储过程的标识符。parameters 是实参的列表。说明 如果没有要传递的实参,则可以用空参数列表...