读数据表
用途 读数据表 算子用于从数据源中读取数据，作为下游节点输入数据的来源。适用场景 计算链路 计算引擎 是否支持 离线 MaxCompute 是 Hive 是 HiveStorage 是 RDS/MySQL 是 使用说明 选择计算资源 选择需要读取的数据源，支持的数据源类型...
查询诊断
您也可以根据需求选择按照占用内存、磁盘读取数据量、磁盘读取数据耗时、网络传输数据量、网络传输数据耗时对算子排序以及计算整体比例。算子统计信息介绍如下：名称 说明 算子名称 算子名称与编号，在计划树中唯一。类型ID 算子类型编号。...
创建MySQL表并读取数据
本文介绍如何在DLA中创建MySQL表并读取数据。登录 DLA控制台。单击左侧导航栏的 SQL访问点，然后单击 登录DMS，在DLA中创建如下表所示的MySQL表。CREATE EXTERNAL TABLE hello_mysql_vpc_rds.tbl_person(id int,name varchar(1023),age int...
数据传输与迁移概述
离线数据批量数据读取（外部表-湖仓一体）场景特征：主要用于数据联邦查询分析，偶尔需要对数据进行搬运。典型场景。类型 典型场景 OSS数据与MaxCompute数据下载 UNLOAD命令。外部表，湖仓一体。Hologres读取MaxCompute数据 Hologres外部表...
创建PolarDB表并读写数据
person(id int,name varchar(1023),age int)TBLPROPERTIES(TABLE_MAPPING='person')读取PolarDB数据 在DLA中创建好了PolarDB Schema和表后，您就可以通过MySQL客户端或者MySQL命令行工具连接DLA，然后使用标准SQL语句读写PolarDB数据库数据...
备份对数据库的影响
备份原理与影响 类目 逻辑备份 物理备份 全量备份原理 对每张表数据进行切分，然后在数据库上执行SQL语句，多线程并行读取数据。在数据库所在服务器上安装DBS备份网关，然后通过备份网关将数据库文件进行备份（拷贝）。增量备份原理 支持...
客户端FAQ
常见问题 Q：JDBC读取数据报错：java.lang.NumberFormatException:For input string:"xxxx"A：尝试按照普通数据类型解析密文数据，例如 getInt/getBigDecimal/getBoolean/getLong/getFloat/getDouble，由于密文不符合普通数据类型格式要求...
使用列索引加速ETL
当 etl_from_imci 参数设置为 ON，即选择从只读列存节点读取数据，数据读取完成并传回RW节点时，您可以通过 SHOW processlist 命令查看processlist状态，此时，processlist状态应为ETL FROM IMCI。使用说明 当查询条件复杂，SQL语句执行...
Query Profile介绍
LocalDiskReadBytes 所有Connector Scan执行节点从本地缓存读取的压缩数据大小之和。该指标仅适用于存算分离实例。RemoteReadBytes 所有Connector Scan执行节点从OSS对象存储读取的压缩数据大小之和。该指标仅适用于存算分离实例。...
通过Hive访问云数据库HBase
云数据库HBase支持通过Hive读写数据，本文介绍如何配置Hive并读写云数据库HBase的数据。前提条件 已将Hive所在的Hadoop集群所有的节点的IP加入到云数据库HBase实例的白名单中，具体操作请参见 设置白名单。已获取云数据库HBase的zookeeper...
通过实时计算Flink读写云原生数据仓库AnalyticDB ...
云原生数据仓库AnalyticDB PostgreSQL版 支持通过实时计算Flink读写数据。本文介绍如何通过Flink写入数据到 AnalyticDB PostgreSQL版 及读取 AnalyticDB PostgreSQL版 数据。通过实时计算Flink版写入数据到AnalyticDB PostgreSQL版 具体...
重要组件
Primary即为拥有读写权限的读写库，Replica即为只读实例，仅仅拥有读取数据的权限（后台线程也不能修改数据），Primary和Replica采用Shared Everything架构，即底层共享同一份数据文件和日志文件。StandBy节点拥有一份独立的数据和日志文件...
计算引擎版本说明
1.4.1 功能优化 支持宽表引擎（数据源）复杂数据类型的数据读取。优化资源申请相关配置的生成逻辑。1.3.0 新特性 新增数据类型转化函数，支持将HBase编码的BINARY类型的数据解析为真实数据类型（例如INT、LONG等）。详细介绍，请参见 访问...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
配置AnalyticDB for PostgreSQL输入组件
同步AnalyticDB for PostgreSQL数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for PostgreSQL输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for PostgreSQL输入组件。前提条件 在...
配置AnalyticDB for PostgreSQL输入组件
同步AnalyticDB for PostgreSQL数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for PostgreSQL输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for PostgreSQL输入组件。操作步骤 请...
MaxCompute
使用Databricks 读写MaxCompute数据 读取maxCompute数据集的dwd_product_movie_basic_info表中ds=20170519分区的数据到DataFrame中,代码实现。说明 odpsUrl和tunnelUrl相关介绍和配置 参照文档 MaxCompute数据管理权限 参照文档 警告 ...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则需要从整体数据架构上做一定的优化。本文介绍导致DataV读取数据源超时的常见原因和解决方法。使用...
配置IBM DB2输入组件
同步IBM DB2数据源的数据至其他数据源的场景中，您需要先配置IBM DB2输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置IBM DB2输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建IBM DB2...
配置IBM DB2输入组件
同步IBM DB2数据源的数据至其他数据源的场景中，您需要先配置IBM DB2输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置IBM DB2输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建IBM DB2...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则需要从整体数据架构上做一定的优化。本文介绍导致DataV读取数据源超时的常见原因和解决方法。使用...
查看并管理实时任务
指定来源表读取数据时点：设置指定开始时间会让所有支持startTime的来源表均从该时刻开始读取数据。重要 目前支持Log Service CDC、Kafka CDC、MySQL CDC、MongoDB CDC、OceanBase CDC指定来源表读取数据时点。SQL作业中的代码参数配置将...
如何选择备份方式
数据库备份DBS 支持逻辑备份和物理备份两种备份方式，为数据库提供连续数据保护、低成本的备份服务，您可以在评估业务后选择最符合您需求的备份方式。逻辑备份与物理备份的区别 参照项 逻辑备份 物理备份 概念 数据库对象级备份，备份内容...
产品架构
DTS使用增量数据读取模块来获取全量数据迁移过程中发生的数据更新。当全量数据迁移开始时，增量数据读取模块将被激活。在全量数据迁移阶段，增量数据会被解析、重新格式化并存储在本地DTS服务器上。增量数据迁移：当全量数据迁移完成后，...
逻辑备份、物理备份与快照
数据库备份DBS 支持逻辑备份与物理备份，详细说明如下：区别项 逻辑备份 物理备份 全量备份 对每张表数据进行切分，然后在数据库上运行SQL语句，多线程并行读取数据。在数据库所在服务器上安装DBS备份网关，然后通过备份网关将数据库文件...
通过Spark SQL读写C-Store表数据
AnalyticDB MySQL 湖仓版（3.0）集群支持通过Spark SQL在线或离线读写C-Store表数据。本文主要介绍通过Spark SQL在线或离线读写C-Store表数据的具体方法。前提条件 湖仓版（3.0）集群的存储预留资源需大于0 ACU。详情请参见 创建湖仓版集群...
查看并管理实时任务
指定来源表读取数据时点：设置指定开始时间会让所有支持startTime的来源表均从该时刻开始读取数据。重要 目前支持Log Service CDC、Kafka CDC、MySQL CDC、MongoDB CDC、OceanBase CDC指定来源表读取数据时点。SQL作业中的代码参数配置将...
RDS MySQL I/O高问题
附：InnoDB I/O系统介绍 InnoDB通过一套独立的I/O系统来处理数据页的读取和写入，如果SQL请求的数据页不在Buffer Pool中，会产生物理I/O，需要读写底层存储的数据：读数据页操作 通过同步I/O实现，同步I/O调用底层的读接口。写数据页操作 ...
RestAPI Reader最佳实践
数据集成RestAPI Reader插件提供了读取RESTful接口数据的能力，通过配置HTTP请求地址，可获取RestAPI类型的数据源数据（例如获取时间范围内的数据、获取分页数据、循环请求参数获取数据等），并转换为数据集成支持的数据类型，传递给下游...
SmartData数据读取异常修复公告
例如，作业对源数据读取报数据内容不正确的错误（ORC或Parquet文件格式无法解析）或HBase报HFile格式错误等。缺陷修复方案 由于历史版本缓存损坏问题是由于Storage Service的小文件合并（compaction）流程的缺陷导致，通过修改compaction...
Hive数据源
Hive数据源为您提供读取和写入Hive双向通道的功能，本文为您介绍DataWorks的Hive数据同步的能力支持情况。背景信息 Hive是基于Hadoop的数据仓库工具，用于解决海量结构化日志的数据统计。Hive可以将结构化的数据文件映射为一张表，并提供...
开发前准备：绑定数据源或集群
若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发（DataStudio）模块。绑定后，才可读取数据源或集群中的数据，并进行相关开发操作。前提条件 您需根据后续要开发和调度...
流表
读取流表数据 读取全表数据 SELECT*FROM MyStream;由于流表是无界的，因此该查询会不间断地进行。如果想要停止访问数据，请使用组合键 Ctrl+C 终止查询。从最早的数据开始读取 SELECT/*+OPTIONS('scan.startup.mode'='earliest-offset')*/*...
IoT数据源
DataWorks数据集成支持使用IoT Reader插件读取物联网企业实例数据服务中提供的系统表、产品表、自定义存储表，本文为您介绍DataWorks的IoT数据读取能力。支持的版本 仅华东2（上海）、华北2（北京）、华南1（深圳）地域的标准型和尊享型...
数据库代理主机监控详情
每次读取数据量 io_read_byte 每次读取数据量，单位：MB。每次写入数据量 io_write_byte 每次写入数据量，单位：MB。每秒接收数据量 net_recv 每秒接收数据量，单位：MB。每秒发送数据量 net_send 每秒发送数据量，单位：MB。
OCS与数据库结合使用示例
运行结果如下：从MySQL中查询数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 …… …… 从结果可以看出，程序第1次是从MySQL...
数据导入概览
从阿里云对象存储OSS导入数据至图数据库GDB实例 图数据库GDB服务端集成有数据导入模块，可以获取您提供的.csv格式的OSS数据文件，并将其解析为图中的点数据和边数据，然后将点数据和边数据导入至图数据库GDB实例。步骤 步骤说明 ① 将需要...
离线同步数据质量排查
在半结构化数据同步时往往涉及多个文件同步，您需要确认数据读取、写出的文件集合是否完整。依赖产出未完成 如果是周期产出的数据（周期的数据同步任务、周期的全增量数据融合Merge任务等），需要检查下对应的数据产出任务是否正常执行并...
产品定价
资源计费项 价格 免费额度 读流量 0.15 元/GB 1GB/月 存储空间 0.012 元/GB*天 1GB/月 其他计费项 活跃Shard租用 0.04 元/个*天 31 个*天/月（即：1个/天）读写次数 0.12 元/百万次 200W次/月（读写各100W次/月）外网读取流量 0.8 元/GB 无...
- 产品推荐
- 这些文档可能帮助您