物化视图和字段资产详情
数据预览：若有当前表的查询权限，可以使用数据预览功能，否则需先申请查询权限。如何申请，请参见 申请、续期和交还表权限。说明 数据预览为您展示前50条查询数据，含分区信息。若字段类型为HLL（HyperLoglog）时，暂无法为您展示该字段...
使用流程
若您初次使用数据库备份DBS，请先了解 什么是数据库备份DBS。如需了解DBS是否支持备份恢复您的数据库，以及各类数据库备份恢复的具体粒度等，请参见 支持的数据库引擎与功能 或 各类数据库备份配置指导文档。备份恢复方案 您可以通过如下两...
使用DataWorks
当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时，您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的数据导出至其他数据源。背景信息 数据集成的导出方式有如下两种：向导模式：创建离线同步节点后，...
创建Kafka数据源
重要 Flink_SQL任务中使用数据源编码方式进行开发，目前仅支持MySQL、Hologres、MaxCompute、Oracle、StarRocks数据源。数据源编码配置成功后不支持修改。数据源描述 对数据源的简单描述。不超过128个字符。数据源配置 选择需要配置的数据...
查询并下载数据
通过即席查询您可以根据当前的业务情况自定义并执行查询语句和下载查询的数据。例如，当完成计算任务开发后，您可以通过即席查询验证计算任务是否符合预期。本文为您介绍如何新建即席查询并下载结果数据。背景信息 即席查询任务使用您当前...
使用Flink访问
export HADOOP_HOME=usr/local/hadoop-2.7.3 export HADOOP_CLASSPATH=usr/local/hadoop-2.7.3/etc/hadoop:/usr/local/hadoop-2.7.3/share/hadoop/common/lib/*:/usr/local/hadoop-2.7.3/share/hadoop/common/*:/usr/local/hadoop-2.7.3/...
使用MapReduce处理JindoFS上的数据
具体命令如下：hadoop jar/usr/lib/hadoop-current/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar terasort<in><out>替换输入和输出路径，即可处理JindoFS上的数据：hadoop jar/usr/lib/hadoop-current/share/hadoop/mapreduce/...
基于Hadoop集群支持Delta Lake或Hudi存储机制
涉及模块 对应阿里云产品 说明 开源Hadoop 本地机房搭建Hadoop集群 云上虚拟机搭建Hadoop集群 阿里云E-MapReduce 原始数据存储在Hadoop集群中。基于Hadoop集群支持Delta Lake或Hudi湖仓一体架构 前提条件 已创建MaxCompute项目（非External...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
JindoFS FUSE使用说明
通过JindoFS的FUSE客户端，将JindoFS集群上的文件映射到本地磁盘，您可以像访问本地磁盘一样访问JindoFS集群上的数据，无需再使用 hadoop fs-ls jfs:/<namespace>/方式访问数据。挂载 说明 依次在每个节点上执行挂载操作。使用SSH方式登录...
在文件存储 HDFS 版上使用Apache Spark
本文主要介绍如何在挂载 文件存储 HDFS 版 的Hadoop集群上安装及使用Apache Spark。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK，且JDK...
迁移开源HDFS的数据到文件存储 HDFS 版
在已配置 文件存储 HDFS 版 的集群上参考以下命令迁移数据。hadoop distcp hdfs:/x.x.x.x:9000/user/hive/warehouse dfs:/f-xxxxxxxxxxxxxxx.cn-xxxxxxx.dfs.aliyuncs.com:10290/user/hive/warehouse 数据中转 如果原集群与迁移集群的网络...
在文件存储 HDFS 版上使用Presto
本文主要介绍如何在 文件存储 HDFS 版 上搭建及使用Presto。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已搭建Hadoop集群并且所有集群节点已安装JDK，JDK版本不低于1.8...
从自建HDFS迁移数据
准备迁移工具 您可以通过Hadoop社区标准的Distcp工具实现全量或增量的HDFS数据迁移，详细的Distcp工具使用说明请参见 Hadoop Distcp 工具官方说明文档。自建Hadoop集群数据迁移 阿里云ECS自建Hadoop集群和文件引擎处于相同VPC网络环境时，...
使用Fuse-DFS挂载文件存储 HDFS 版
建议您使用的Hadoop版本不低于2.7.2，本文使用的Hadoop版本为Apache Hadoop 2.8.5。已下载与Hadoop集群版本相同的Hadoop源码包。具体下载地址请参见 下载Hadoop源码包。背景信息 Fuse-DFS是Hadoop项目自带的一个功能模块，提供了使用FUSE...
节点类型说明
Hadoop Hadoop 离线节点，运行在Hadoop云计算资源之上，可通过输入算法语句方式处理Hive、Hbase、Phoenix和RDS MySQL类型的数据。Elastic Job Elastic Job 离线节点，运行在Elastic Job云计算资源之上，可通过输入算法语句方式处理...
Dataphin如何使用一个Hadoop集群为所有项目创建计算源...
概述 本文为您介绍Dataphin如何使用一个Hadoop集群为所有项目创建计算源从而提供计算与存储资源。详细信息 1.Dataphin一个计算源只可以被一个项目所绑定。2.通过创建不同的Hive DB从而创建不同的计算源来达到一个Hadoop集群创建多个计算源...
存储说明
Hadoop HDFS会使用所有的数据盘作为数据存储。Hadoop YARN也会使用所有的数据盘作为计算的临时存储。OSS 在E-MapReduce集群中，您可以将OSS作为HDFS使用。E-MapReduce可以方便的读写OSS上的数据，所有使用HDFS的代码经过简单的修改即可以...
AnalyticDB PostgreSQL版7.0版本
支持 使用\COPY命令导入本地数据 支持 使用OSS外表高速导入OSS数据 支持 Hadoop生态外表联邦分析 支持 仓级迁移 自建Greenplum迁移到AnalyticDB PostgreSQL版 支持 Teradata应用迁移至AnalyticDB PostgreSQL 暂不支持 您可以通过外表文件...
数据订阅操作指导
数据订阅使用流程 通常，使用数据传输服务DTS（Data Transmission Service）执行数据订阅的操作，您需要经历如下步骤。操作流程 适用的订阅版本 说明 1.准备工作概览 新版 在使用DTS执行数据订阅前，您需要对源数据库做一些准备工作，以...
Serverless模式
支持 使用\COPY命令导入本地数据 支持 使用OSS外表高速导入OSS数据 支持 Hadoop生态外表联邦分析 支持 仓级迁移 自建Greenplum迁移到AnalyticDB PostgreSQL版 暂不支持。您可以通过外表文件中转导入。Teradata应用迁移至AnalyticDB ...
Spark访问湖仓一体外部数据源
MaxCompute Spark目前已支持访问湖仓一体外部数据源，若您想将数据处理作业的环境从Spark更换为MaxCompute，无需再迁移Spark作业数据到MaxCompute，可直接进行访问，从而降低使用成本。本文为您介绍使用MaxCompute访问外部数据源的示例。...
使用SQL管理外部项目
基于数据湖构建DLF和对象存储OSS的外部项目操作 基于Hadoop外部数据源的外部项目操作 创建与外部数据源中表结构相同的表 基于数据湖构建DLF和对象存储OSS的外部项目操作 在创建External Project后，您可以通过 MaxCompute客户端 进入创建的...
运营
数据资产申请，数据使用者向数据管理方提出使用申请，说明申请方式和申请理由。由租户资产管理员进行资产使用的审核处理。数据资产服务，根据数据资源的性质和特点，选择采用数据表或接口方式提供资产服务。数据资产下线，根据数据的实际...
Hive连接器
使用Hive连接器可以查询和分析存储在Hive数据仓库中的数据。背景信息 Hive数仓系统由以下三部分内容组成：不同格式的数据文件，通常存储在Hadoop分布式文件系统（HDFS）或对象存储系统（例如，阿里云OSS）中。存储着数据文件到Schema和...
DataWorks on EMR数据安全方案
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
数据标准
数据标准使用 数据标准创建完成后，需要将数据标准导入DataWorks，再使用建模工具DDM客户端同步导入DataWorks中的数据标准，以供后续数据建模使用，具体请参见 入门实践。说明 目前使用DDM进行数据建模可以进行逻辑建模和物理建模，但物理...
Hive概述
Hive是一个基于Hadoop的数据仓库框架，在大数据业务场景中，主要用来进行数据提取、转化和加载（ETL）以及元数据管理。背景信息 E-MapReduce（简称EMR）版本中，Hadoop、Hive版本和EMR集群的配套情况，请参见 版本概述。Hive结构 名称 说明...
JindoFS外部客户端
设置环境变量 BIGBOOT_HOME 为程序安装根目录，将程序根目录下 ext 和 lib 的路径，添加到用户使用的大数据组件（Hadoop或Spark等）的 Classpath 中。从E-MapReduce集群内部拷贝配置文件/usr/lib/bigboot-current/conf/bigboot.cfg....
常见问题
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段，扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、...
基于eRDMA增强型实例部署Spark集群
Hadoop版本：Hadoop 3.2.1 Spark版本：Spark 3.2.1 ECS实例：实例规格：请参见 基本规格 vCPU个数：16 集群节点个数：1个主节点、3个worker节点 安装步骤 安装Hadoop大数据集群的具体操作，请参见 通过FastMR自动拉起大数据集群。...
快速体验
数据展示：Quick BI 通过Quick BI搭建面向不同业务需求的可视化大屏，可视化展示数据结果，便于进行业务数据分析。操作演示说明 本文以下的操作演示为操作示例，随产品迭代更新，部分操作示例图可能与您的实际操作环境有细微出入，一般情况...
数据量
在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为：购买时选择的存储...
- 产品推荐
- 这些文档可能帮助您