读取数据
表格存储 提供了单行读取、批量读取、范围读取、迭代读取和并行读取的查询方式用于读取数据表中数据。数据写入到数据表后，您可以选择所需数据查询方式进行数据读取。如果需要了解 表格存储 各场景的应用案例，请参见 快速玩转Tablestore...
配置AnalyticDB for PostgreSQL输入组件
同步AnalyticDB for PostgreSQL数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for PostgreSQL输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for PostgreSQL输入组件。前提条件 在...
配置API输出组件
配置API输出组件，可以将外部数据库中读取的数据写入到API，或从大数据平台对接的存储系统中将数据复制推送至API，进行数据整合和再加工。本文为您介绍如何配置API输出组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建API...
配置API输出组件
配置API输出组件，可以将外部数据库中读取的数据写入到API，或从大数据平台对接的存储系统中将数据复制推送至API，进行数据整合和再加工。本文为您介绍如何配置API输出组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建API...
外部表常见问题
在MaxCompute中使用OSS外部表读取JSON数据的操作，请参见 在MaxCompute中使用OSS外部表读取JSON数据。如何通过OSS外部表将多个小文件输出为一个文件？通过Logview日志，查看SQL的执行计划中最后一个是Reducer还是Joiner。如果是Reducer，则...
计算引擎版本说明
1.5.0 功能优化 优化CDC（数据源）在数据读取过程中对 null 的处理。修复稳定性问题。1.3.1 新特性 支持运行指定SQL的SparkSQL作业。资源配置项支持resourceTag，详细说明，请参见 资源配置项。功能优化 CDC（数据源）支持将HBase数据解析...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
读取数据
表格存储提供了单行读取、批量读取和范围读取的查询方式用于读取数据表中数据。当要读取单行数据或者批量读取表中数据时，您必须指定行的完整主键；当要范围读取表中数据时，您需要指定完整主键范围或者主键前缀。读取数据时支持配置返回...
使用ClickHouse-Local迁移上云
数据都是从源MySQL表中读取，然后立即写入云数据库ClickHouse企业版服务上的目标表中。数据类型映射 RDS MySQL或PolarDB MySQL类型 ClickHouse类型 Unsigned tinyint UInt8 Tinyint Int8 Unsigned smallint UInt16 Smallint Int16 Unsigned...
数据缓存
ReadFromFileCacheBytes 从缓存文件中读取的数据量。ReadTotalBytes 总共读取的数据量。SkipCacheBytes 创建缓存文件失败，或者缓存文件被删，需要再次从远程读取的数据量。WriteInFileCacheBytes 保存到缓存文件中的数据量。...
离线批量读取数据
数据写入到数据表后，您可以根据指定条件进行数据读取。前提条件 已初始化OTSClient。具体操作，请参见 初始化OTSClient。已创建数据表并写入数据。参数 参数 说明 tableName 数据表名称。inclusiveStartPrimaryKey 本次批量读取的起始主键...
查询机制
SELECT 使用SELECT查询数据时，需要从磁盘中读取一个数据块到内存中，然后通过内存中数据块获取返回结果。INSERT 当您使用INSERT插入一条数据时，具体过程如下：从数据文件中读取一个数据块到内存中，并将这行数据写入这个数据块，系统生成...
Java SDK快速入门
通过 表格存储 Java SDK使用 表格存储 宽表模型或者时序模型时，您需要先创建表，然后写入数据到表中以及读取表中数据。本文介绍如何快速使用宽表模型和时序模型。背景信息 表格存储 提供了宽表模型、时序模型、消息模型等多种数据模型，...
配置PolarDB输入组件
同步PolarDB数据源的数据至其他数据源的场景中，您需要先配置PolarDB输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置PolarDB输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建PolarDB数据源...
配置PolarDB输入组件
同步PolarDB数据源的数据至其他数据源的场景中，您需要先配置PolarDB输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置PolarDB输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建PolarDB数据源...
配置DataHub输出组件
配置DataHub输出组件，可以将外部数据库中读取数据写入到DataHub，或从大数据平台对接的存储系统中将数据复制推送至DataHub，进行数据整合和再加工。本文为您介绍如何配置DataHub输出组件。前提条件 已创建DataHub数据源。具体操作，请参见...
配置DataHub输出组件
配置DataHub输出组件，可以将外部数据库中读取数据写入到DataHub，或从大数据平台对接的存储系统中将数据复制推送至DataHub，进行数据整合和再加工。本文为您介绍如何配置DataHub输出组件。前提条件 已创建DataHub数据源。具体操作，请参见...
配置Kafka输入组件
配置Kafka输入组件后，可以将kafka数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置Kafka输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建Kafka数据源。具体操作，...
配置Kafka输入组件
配置Kafka输入组件后，可以将kafka数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置Kafka输入组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建Kafka数据源。具体操作，...
配置Kafka输出组件
配置Kafka输出组件，可以将外部数据库中读取数据写入到Kafka，或从大数据平台对接的存储系统中将数据复制推送至Kafka，进行数据整合和再加工。本文为您介绍如何配置Kafka输出组件。操作步骤 请参见 离线管道组件开发入口，进入离线单条管道...
配置Kafka输出组件
配置Kafka输出组件，可以将外部数据库中读取数据写入到Kafka，或从大数据平台对接的存储系统中将数据复制推送至Kafka，进行数据整合和再加工。本文为您介绍如何配置Kafka输出组件。操作步骤 请参见 离线管道组件开发入口，进入离线单条管道...
RDS SQL Server I/O高问题
数据页读取（Page Reads）的I/O吞吐高是导致RDS SQL Server实例I/O吞吐高的原因中最常见的一种，主要原因是实例的缓存不足，导致查询请求在执行过程中由于缓存无法命中（cache miss），从而需要在磁盘中读取大量的数据页。诊断缓存的一个...
数据加工概述
数据分派（一对多）：从源Logstore中读取日志数据，进行加工后分别输出到不同的目标Logstore中。数据融合（多对一）：分别从不同的源Logstore中读取日志数据，进行加工后输出到目标Logstore中。加工语法 SLS DSL（Domain Specific Language...
过滤器
当在该次扫描的5000行或者4 MB数据中没有满足过滤器条件的数据时，得到的Response中的Rows为空，但是next_start_primary_key可能不为空，此时需要使用next_start_primary_key继续读取数据，直到next_start_primary_key为空。参数 参数 说明...
二级索引
desc-o/tmp/describe_table_meta.json 使用二级索引查询数据 读取单行数据 读取表中的数据。您也可以将读取的数据导出到本地JSON格式的文件中。说明 如果读取的数据行不存在，则返回结果为空。命令格式 get-pk '[primaryKeyValue,...
配置AnalyticDB for MySQL 3.0输入组件
同步AnalyticDB for MySQL 3.0数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for MySQL 3.0输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for MySQL 3.0输入组件。操作步骤 请参见 通过...
配置AnalyticDB for MySQL 3.0输入组件
同步AnalyticDB for MySQL 3.0数据源的数据至其他数据源的场景中，您需要先配置AnalyticDB for MySQL 3.0输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置AnalyticDB for MySQL 3.0输入组件。在开始执行操作前，请...
读写RDS MySQL数据
在DLA中读取RDS数据，并不是RDS在DLA中的典型应用场景。因为RDS本身能承载的数据量有限，不适合大数据分析。更多的场景是在DLA中对存储在OSS、Tablestore中的大数据进行分析，分析完成之后把结果数据回写到RDS中，供前台业务使用。DLA如何...
如何优化数据全量抽取
关系型数据库没有直接提供分段返回表中数据的能力，高效的实现分页查询，还需要结合数据库本身的特点来设计查询语句。以MySQL为例，分页查询最直观的实现方法，是使用limit offset，pageSize来实现，例如如下查询：select*from t_order ...
离线同步常见问题
读取Loghub同步某字段有数据但是同步过来为空 读取Loghub同步少数据 读取Loghub字段映射时读到的字段不符合预期 读取kafka配置了endDateTime来指定所要同步的数据的截止范围，但是在目的数据源中发现了超过这个时间的数据 Kafka中数据量少...
步骤三：创建实时计算表
现在我们需要创建一个订单表对应的实时元表，可以从订单表中读取增量数据。步骤一：创建 oms_orders订单来源元表 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 新建表 对话框。在 新建表 页面，配置相关参数。参数 描述...
步骤三：创建实时计算表
现在我们需要创建一个订单表对应的实时元表，可以从订单表中读取增量数据。步骤一：创建 oms_orders订单来源元表 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入 新建表 对话框。在 新建表 页面，配置相关参数。参数 描述...
数据导入方式介绍
为满足多样化的数据导入需求，云原生数据仓库AnalyticDB MySQL版 提供了多种数据导入方式，包括：通过外表导入数据、使用DataWorks导入数据和利用JDBC通过程序导入数据等。本文介绍各导入方式的特性及适用场景，帮助您选择正确的数据导入...
管理数据集合
读取数据 以下代码示例展示了适用于不同场景的数据读取方法：从集合中读取所有数据。例如，查询所有图片：mpserverless.db.collection('images').find();根据查询条件从集合中读取指定数据。例如，查询特定用户添加的图片：mpserverless.db...
设置列索引的排序键
重复执行步骤3，直到合并文件有序排列，然后读取合并文件中的每一行记录，根据偏移值读取数据文件中对应的记录并追加到列存索引中。增量数据排序流程 增量数据的排序流程是渐进式的，不能保证数据完全有序。总体流程如下：将所有的数据块...
过滤器
当在该次扫描的5000行或者4 MB数据中没有满足过滤器条件的数据时，得到的Response中的Rows为空，但是NextStartPrimaryKey可能不为空，此时需要使用NextStartPrimaryKey继续读取数据，直到NextStartPrimaryKey为空。参数 参数 说明 ...
过滤器
当在该次扫描的5000行或者4 MB数据中没有满足过滤器条件的数据时，得到的Response中的Rows为空，但是NextStartPrimaryKey可能不为空，此时需要使用NextStartPrimaryKey继续读取数据，直到NextStartPrimaryKey为空。使用方式 重要 只支持...
通过缓存优化性能
Delta缓存通过使用快速中间数据格式在节点的本地存储中创建远程文件的副本来加速数据读取。每当需要从远程位置获取文件时，数据都会自动缓存。然后在本地的连续读取上述数据，从而显著提高读取速度。说明 详细内容可参考Databricks官网文章...
减灾与应急时空解决方案与案例
支持直接导入面向对象存储OSS上存储的各类栅格数据，导入时会自动读取栅格数据中的元数据信息，并提供相关的属性查询函数。方案优势 多源异构数据在一个库中统一管理，节约用户成本。应用开发可直接基于Ganos原生提供的时空SQL能力做各类...
- 产品推荐
- 这些文档可能帮助您