查看集群日报与分析
Hive使用量分析 在Hive使用分析中，您可以获取以下图表：Hive库存储量使用量分布图 Hive用户总存储量分布 Hive表文件大小分布比例 Hive表热冷数据分布 Hive表存储格式分布 Hive详细信息 在Hive信息中会展示Hive库和Hive表的详细信息。...
配置Hive输入组件
同步Hive数据源的数据至其他数据源的场景中，您需要先配置Hive输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Hive输入组件。使用限制 Hive输入组件支持数据格式为 orc、parquet、text、rc、seq、iceberg...
Spark Load
数据预处理（DPP）基本流程 从数据源读取数据，上游数据源可以是HDFS文件，也可以是Hive表。对读取到的数据进行字段映射，表达式计算以及根据分区信息生成分桶字段 bucket_id。根据Doris表的rollup元数据生成RollupTree。遍历RollupTree，...
Hive数据源
通过Hive Catalog，您可以直接查询Hive中的数据。本文为您介绍如何创建和查看Hive ...查看Hive表数据 您可以通过SELECT查询目标数据库中的目标表。SELECT*FROM<catalog_name>.<database_name>.;相关文档 Hive更多介绍，请参见 Hive概述。
Hive数据源
Hive Catalog是一种External Catalog。通过Hive Catalog，您可以直接查询Hive中的数据。...查看Hive表数据 您可以通过SELECT查询目标数据库中的目标表。SELECT*FROM<catalog_name>.<database_name>.;相关文档 Hive更多介绍，请参见 Hive概述。
常见问题
Impala写入Hive表数据的时候，是否可以修改写入文件的owner？如何调整Impalad可使用的节点内存总量？如何限制单条查询语句消耗内存的大小？如何提升非JOIN语句的查询效率？Ranger开启Impala后，新扩容的Impala节点无法正常工作，该怎么办？...
自建Hive数据仓库迁移到阿里云E-MapReduce
客户在IDC或者公有云环境自建Hadoop集群，数据集中保存在HDFS文件系统，同时借助Hive进行常见的ETL任务。客户在决策上云之后，会将自建Hadoop集群的数据迁移到阿里云自建Hadoop或者EMR。方案优势 易用性 您可以简单选择所需ECS机型（CPU、...
使用SQL管理外部项目
基于数据湖构建DLF和对象存储OSS的外部项目操作 基于Hadoop外部数据源的外部项目操作 创建与外部数据源中表结构相同的表 基于数据湖构建DLF和对象存储OSS的外部项目操作 在创建External Project后，您可以通过 MaxCompute客户端 进入创建的...
概述
PolarDB支持的数据冷存模式包含以下三种：将整表数据存储在OSS中，索引存储在云盘中，降本后还能有良好的访问性能；只将表中的LOB字段、辅助性字段独立存储在OSS中；只将分区表中的过期子分区存储在OSS中，热分区存储在云盘中，这是比较...
概述
PolarDB支持的数据冷存模式包含以下三种：将整表数据存储在OSS中，索引存储在云盘中，降本后还能有良好的访问性能；只将表中的LOB字段、辅助性字段独立存储在OSS中；只将分区表中的过期子分区存储在OSS中，热分区存储在云盘中，这是比较...
概述
PolarDB支持的数据冷存模式包含以下三种：将整表数据存储在OSS中，索引存储在云盘中，降本后还能有良好的访问性能；只将表中的LOB字段、辅助性字段独立存储在OSS中；只将分区表中的过期子分区存储在OSS中，热分区存储在云盘中，这是比较...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
迁移工具
将MySQL数据同步迁移到表格存储 将HBase数据同步到表格存储 将MaxCompute数据同步到表格存储 将表格存储数据同步到MaxCompute 将表格存储数据同步迁移到OSS 将表格存储数据表中数据同步到另一个数据表 将表格存储时序表中数据同步到另一个...
表设计规范
表数据存储规范 按数据层规划数据的生命周期：源表ODS层：每天从业务系统同步过来的数据，全部保留，生命周期定义永久保存。当下游数据受损时，可以从ODS恢复数据。若ODS每天同步过来的是全量表，则可以通过全表拉链的方式来压缩存储。数据...
Hive连接方式
jdbc</artifactId><version>2.3.9</version></dependency><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-common</artifactId><version>2.8.5</version></dependency>编写代码，连接HiveServer2并操作Hive表数据。...
Kafka数据接入
通过创建Tablestore Sink Connector，将 云消息队列 Kafka 版 实例的数据源Topic导出到 表格存储（Tablestore）。前提条件 云消息队列 Kafka 版 已为实例开启Connector。具体操作，请参见 开启Connector。已为实例创建数据源Topic。更多...
Hive访问Delta Lake和Hudi数据
Hive不支持写入数据到Delta Lake和Hudi，但是可以通过外部表的方式查询Delta Lake和Hudi中的数据。本文通过示例为您介绍如何使用EMR上的Hive访问Delta Lake和Hudi数据。前提条件 已创建包含Hive、Delta Lake和Hudi服务的集群，详情请参见 ...
访问Kafka数据
返回结果：Output:kafka record（可选）实践：将Kafka数据导入Hive表 如果您有数据分析等相关需求，可以参考以下步骤将Kafka中的数据导入Hive表。假设域名接入点为kafka_addr:9092，topic名称为topic1的Kafka实例中有两条写入时间在2023-04...
数据治理
EMR集群类型 元数据存储类型 数据存储类型：OSS 数据存储类型：OSS-HDFS 数据存储类型：HDFS 新版数据湖集群（DataLake）数据湖构建（DLF）RDS实例 MySQL 自定义集群（Custom）数据湖构建（DLF）RDS实例 MySQL 其他集群-数据保护伞为什么有...
时序分析存储概述
分析存储与时序表的数据存储相互独立，允许用户自定义数据的生命周期（TTL），对分析存储的查询操作不会对时序表的读写性能产生影响。分析存储能够自动同步时序表数据，在数据写入速率稳定的情况下，同步操作的延迟通常在10分钟内，如果...
Dataphin支持的实时数据源
存储类型 数据源类型 读 写 维表读 大数据存储 Apache Hive 支持 支持 支持 Doris 支持（flink1.14及flink1.15）支持（flink1.14及flink1.15）-数据湖 Hudi 支持 支持-Iceberg 支持（仅支持原生DDL方式）支持（仅支持原生DDL方式）-Paimon ...
数据存储冷热分离
AnalyticDB MySQL版 弹性模式集群版（新版）（3.1.3.3及以上版本）支持表或分区级别的数据存储冷热分离策略。前提条件 AnalyticDB MySQL版 集群需要同时满足以下条件：集群系列需为 弹性模式集群版（新版）。集群内核版本需为3.1.3.3或以上...
Hive数据迁移
本文为您介绍通过Hive UDTF迁移Hive数据的方法。准备事项 ⽹络环境要求。Hive集群各节点能够访问MaxCompute。MMA所在服务器能够访问Hive MetaStore Server、Hive Server。创建⽤于迁移数据的Hive UDTF。在MMA的 帮助 ⻚⾯下载对应版本的...
迁移服务（MMA）
MaxCompute提供的数据迁移服务支持通过MMA（MaxCompute Migration Assist）服务，将Hive数据安全且高效地迁移到MaxCompute。迁移流程 使用限制 不支持迁移Hive数据至已开启Schema功能的MaxCompute项目。关于Schema介绍详情，请参见 Schema...
索引加速
在Aggregate、Unique和Duplicate三种数据模型中，底层的数据存储是按照各自建表语句中AGGREGATE KEY、UNIQUE KEY和DUPLICATE KEY里指定的列进行排序存储的。而前缀索引，即在排序的基础上，实现的一种根据给定前缀列，快速查询数据的索引...
DataWorks on EMR数据安全方案
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
元数据管理
选择元数据表中数据存储的位置。选择元数据表的存储格式。指定元数据表的分隔符。手动定义元数据表的列，指定列编号、列名称、是否是分区列等信息。删除元数据库 1.进入元数据管理-元数据库页面。2.找到想要删除的元数据库，点击右侧的删除...
SmartData 3.5.x版本简介
Hive支持JindoTable冷度统计，以统计Hive表访问频次，详情请参见 JindoTable表或分区访问冷度收集。JindoFS工具集 增强JindoDistcp，支持通过阿里云监控（CloudMonitor）服务监控告警失败任务、移除了对AVX指令集的依赖、并新增使用冷归档...
如何实现一键转冷存
参数 参数名称 描述 relname 分区表（父表）名称 reserved_subparts_cnt 存储位置不变的子分区表数量 说明 该函数只用于分区表，且只会将分区表子分区表数据转为OSS存储，子分区表上的索引数据存储位置不变。如果 reserved_subparts_cnt 为...
如何实现一键转冷存
参数 参数名称 描述 relname 分区表（父表）名称 reserved_subparts_cnt 存储位置不变的子分区表数量 说明 该函数只用于分区表，且只会将分区表子分区表数据转为OSS存储，子分区表上的索引数据存储位置不变。如果 reserved_subparts_cnt 为...
导出至自建MySQL
本文示例中，测试所用的ECS自建MySQL目标库名为 test_adb，并在该库中创建了一张名为 courses 的目标表，用于存储从 AnalyticDB MySQL 集群中导出的数据。建表语句如下：CREATE TABLE courses(id bigint NOT NULL,name varchar(32)NOT NULL...
Dataphin管道任务同步数据，hive源表报错“ERROR ...
问题描述 Dataphin管道任务同步数据，hive源表报错“ERROR DlinkTaskPluginCollector-脏数据”。问题原因 hive源表字段数据中有单个双引号，导致同步时数据分割错了，抛出了“ERROR DlinkTaskPluginCollector-脏数据”错误。解决方案 可以...
CREATE DATABASE
参数取值如下：当DEFAULT_SINGLE='on' 时，AUTO模式数据库建表且不显式指定分区定义时，默认建单表并自动打散到实例的不同的DN节点；当DEFAULT_SINGLE='off' 或没指定值时，AUTO模式数据库建表且不显式指定分区定义时，默认按主键自动分区...
数据膨胀诊断
AnalyticDB PostgreSQL版 提供的智能诊断数据膨胀功能，可以定期自动诊断数据库内的所有表，并生成诊断信息表。您可以通过诊断信息表，查看表的膨胀情况并获得相应的处理建议（如执行VACUUM或VACUUM FULL操作）。注意事项 智能诊断数据膨胀...
通过实时计算订阅数据
依次双击 RDS 数据存储>数据库名称（datav_test）>表名（target_table），选择右侧的 作为结果表引用，在开发作业中引用目标表。通过 INSERT INTO 语句，将实时计算后的源表数据插入目标表中。说明 如果数据格式不匹配，需要进行相应的 ...
物联网存储介绍
基于物联网场景中多源异构数据存储、高并发吞吐、海量数据高性价比存储、多维度数据处理与分析等需求，表格存储推出了一站式物联网存储IoTstore解决方案，为物联网设备元数据、消息数据、时序轨迹等海量数据提供存储、查询、检索、分析、...
按自定义时间列冷热分离
购买容量型云存储后，您可以指定表或二级索引中的某个时间列作为冷热分离的依据，将数据分别存储于不同的介质中，有效提升热数据查询效率，降低冷数据存储成本。本文介绍按自定义时间列冷热分离的具体操作步骤及相关注意事项。前提条件 已...
EMR Hive数据整库离线同步至MaxCompute
建议对于要进行数据同步的表，Hive数据源开发和生产环境保证具有相同的表结构。说明 此处会展示Hive数据源开发环境地的表列表和表结构，如果您的Hive数据源开发和生产环境的表定义不同，则可能出现任务在开发环境配置正常但提交生产运行后...
EMR Hive数据整库离线同步至MaxCompute
建议对于要进行数据同步的表，Hive数据源开发和生产环境保证具有相同的表结构。说明 此处会展示Hive数据源开发环境地的表列表和表结构，如果您的Hive数据源开发和生产环境的表定义不同，则可能出现任务在开发环境配置正常但提交生产运行后...
概述
Federated表由两个元素组成：具有数据库表的远程 PolarDB MySQL版 集群或社区MySQL服务器，该数据库表由表定义（存储在MySQL数据字典中）和关联表组成。远程表的表类型可以是远程服务器支持的任何类型，包括MyISAM、InnoDB和CSV等。具有...
- 产品推荐
- 这些文档可能帮助您