功能特性
JDBC连接 阿里云产品集成 数据开发 DataWorks DataStudio 基于MaxCompute项目通过DataWorks DataStuido以可视化方式实现全方位的数据开发、数据集成、数据服务等功能，支持周期性调度作业。数据开发 DataWorks DataStudio 数据分析 SQL查询...
创建CDH MR节点
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。右键单击某个业务流程，选择 新建节点>CDH>CDH MR。在 新建节点 对话窗中，配置节点的引擎实例、...
应用场景
该场景可实现：支持多数据源接入 支持数据库（RDS、PolarDB-X（原DRDS）、PolarDB、Oracle、SQL Server等），大数据（Flink、Hadoop、EMR、MaxCompute）、OSS、日志数据（Kafka、SLS等）以及本地数据导入。支持一键建仓 通过简单几步配置...
Hadoop集群迁移至DataLake集群
作业迁移 为了确保旧集群的作业能在新集群上顺利调度执行，针对不同的调度系统和环境，我们需要采取相应的迁移策略：对于正在使用EMR旧版数据开发的用户，需要迁移至EMR Workflow，详情请参见 EMR旧版数据开发迁移公告。采用其他开发环境...
创建EMR Spark SQL节点
前提条件 数据开发（DataStudio）中已创建业务流程。数据开发（DataStudio）基于业务流程对不同开发引擎进行具体开发操作，所以您创建节点前需要先新建业务流程，操作详情请参见 创建业务流程。已创建阿里云EMR集群，并注册EMR集群至...
创建EMR Shell节点
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。创建 业务流程。如果您已有 业务流程，则可以忽略该步骤。鼠标悬停至 图标，选择 新建业务流程。在 新建业务流程 ...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
开发ODPS Spark任务
在 数据开发 页面新建Python类型的资源，并命名为 spark_is_number.py，详情请参见 创建并使用MaxCompute资源。代码如下：#-*-coding:utf-8-*-import sys from pyspark.sql import SparkSession try:#for python 2 reload(sys)sys....
产品架构
数据库设计与开发：提供多种数据设计与开发工具，如无锁变更、数据导入、结构同步、表一致性修复、数据库分组、数据追踪等。数据传输与加工：提供数据同步、数据迁移、数据订阅、数据集成、编排调度等低代码工具。数据应用：提供数据服务、...
开发ODPS Spark任务
在 数据开发 页面新建Python类型的资源，并命名为 spark_is_number.py，详情请参见 创建并使用MaxCompute资源。代码如下：#-*-coding:utf-8-*-import sys from pyspark.sql import SparkSession try:#for python 2 reload(sys)sys....
产品优势
本文介绍 云原生多模数据库 Lindorm 与其他开源数据库的区别。背景信息 云原生多模数据库 Lindorm 兼容...生态 开源大数据生态Hadoop/Spark等、阿里云数据生态 开源大数据生态Hadoop/Spark等 易用性 免运维，维护简单 有状态服务，维护较复杂
创建Hive数据源
如果您使用的是Hive，在对接Dataphin进行数据开发或将Dataphin的数据写入至Hive的场景中，您需要先完成Hive数据源的创建。更多Hive信息，请参见 Hive官网。使用限制 Dataphin仅支持 超级管理员、数据源管理员、板块架构师、项目管理员 角色...
JindoData版本说明
JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。本文为您介绍JindoData各版本支持的功能。背景信息 JindoData是原阿里云EMR SmartData组件...
创建EMR MR节点
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。创建 业务流程。如果您已有 业务流程，则可以忽略该步骤。鼠标悬停至 图标，选择 新建业务流程。在 新建业务流程 ...
准备工作：获取CDH或CDP集群信息并配置网络连通
DataWorks提供了与CDH（Cloudera’s Distribution Including Apache Hadoop，以下简称CDH）和CDP（Cloudera Data Platform，以下简称CDP）集群对接的能力，您可在DataWorks中注册CDH及CDP集群，进行任务开发、调度、数据地图（元数据管理）...
搭建Hadoop环境
Hadoop与Java开发工具包（JDK）紧密集成，不同版本的Hadoop对JDK的要求也有所不同。Hadoop 3.3：Java 8和Java 11 Hadoop 3.0.x~3.2.x：Java 8 Hadoop 2.7.x~2.10.x：Java 7和Java 8 本文使用的版本为Hadoop 3.2.4和Java 8，如您使用其他...
选择付费方式
如果您使用的开发工具为IntelliJ IDEA，可以在提交SQL脚本时自动估算费用。详情请参见 开发及提交SQL脚本。如果您使用的开发工具为DataWorks，也可以进行费用预估。详情请参见 计算费用（按量计费）。说明 部分SQL运算不支持费用预估。例如...
通过ES-Hadoop实现Hive读写阿里云Elasticsearch数据
hadoop fs-mkdir/tmp/hadoop-es hadoop fs-put elasticsearch-hadoop-6.7.0/dist/elasticsearch-hadoop-hive-6.7.0.jar/tmp/hadoop-es 步骤二：创建Hive外表 在EMR控制台的 数据开发 模块中，创建 HiveSQL 类型的作业。具体操作步骤请参见 ...
什么是文件存储 HDFS 版
产品概述 文件存储 HDFS 版 允许您就像在Hadoop分布式文件系统（Hadoop Distributed File System）中一样管理和访问数据。您无需对现有大数据分析应用做任何修改，即可使用具备无限容量及性能扩展、单一命名空间、多共享、高可靠和高可用等...
术语表
一般都是一些被软件工程师用于为特定的软件包、软件实例、软件框架、硬件平台、操作系统、文档包等建立应用软件的开发工具的集合。MaxCompute支持 Java SDK 和 Python SDK。授权 项目管理员或者项目Owner可以授予其他角色对MaxCompute中的...
E-MapReduce数据迁移方案
HDFS数据迁移 Distcp工具同步数据 HDFS数据迁移可以通过Hadoop社区标准的 DistCp工具 迁移，可以实现全量和增量的数据迁移。为减轻现有集群资源压力，建议在新旧集群网络连通后在新集群执行 distcp 命令。全量数据同步 hadoop distcp-...
创建EMR Spark节点
登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。创建 业务流程。如果您已有 业务流程，则可以忽略该步骤。鼠标悬停至 图标，选择 新建业务流程。在 新建业务流程 ...
EMR Hive数据整库离线同步至MaxCompute
背景信息 Hive是基于Hadoop的一个数据仓库工具，用来进行数据的提取、转化、加载，可以存储、查询和分析存储在Hadoop中的大规模数据。Hive数据仓库工具能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能将SQL语句转变成...
EMR Hive数据整库离线同步至MaxCompute
背景信息 Hive是基于Hadoop的一个数据仓库工具，用来进行数据的提取、转化、加载，可以存储、查询和分析存储在Hadoop中的大规模数据。Hive数据仓库工具能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能将SQL语句转变成...
搭建Linux开发环境
本文为您介绍如何搭建MaxCompute Spark开发环境。如果您安装了Windows操作系统，请前往 搭建Windows开发环境。前提条件 搭建Spark开发环境前，请确保您已经在Linux操作系统中安装如下软件：说明 本文采用的软件版本号及软件安装路径仅供...
在EMR集群运行TPC-DS Benchmark
TPC-DS官方工具只包含SQL生成器以及单机版数据生成工具，并不适合大数据场景，所以本文教程中使用的工具和集群信息如下：Hive TPC-DS Benchmark测试工具。该工具是业界最常用的测试工具，是由Hortonworks公司开发，支持使用Hive和Spark运行...
MapReduce常见问题
产生原因 某些数据特别大，下载到内存便溢出了。解决措施 把Combiner去掉或者在Combiner中限制Size set odps.mapred.map.min.split.size=512;执行MaxCompute MapReduce时，报错内存溢出，如何解决？内存溢出通常是由于内存不足导致的，可以...
数据模型概述
数据模型（Data Model）是数据特征的抽象，它从抽象层次上描述了系统的静态特征、动态行为和约束条件，为数据库系统的信息表示与操作提供一个抽象的框架...说明 Hadoop的MR调优参数属于底层，DDM是数据建模工具，支持设置表、字段等物理属性。
Hadoop使用JindoSDK访问OSS-HDFS服务
什么是OSS-HDFS服务 通过OSS-HDFS服务，无需对现有的Hadoop、Spark大数据分析应用做任何修改。通过简单的配置即可像在原生HDFS中那样管理和访问数据，同时获得OSS无限容量、弹性扩展、更高的安全性、可靠性和可用性支撑。作为云原生数据湖...
2021年
2021-09-14 华南1金融云（深圳）无 MaxCompute 支持访问开启Kerberos 认证授权机制的 Hadoop集群 大部分企业的Hadoop的生产集群开启了 Kerberos认证授权机制，本次功能升级能够利用MaxCompute访问开启Kerberos认证授权机制的 Hadoop集群，...
产品优势
无优化，数据集成需要较大开发。MaxCompute 产品化集成，请参见 全量导出MaxCompute。数据集成需要较大开发。日志服务（SLS）请参见 LTS（原BDS）服务介绍，支持SLS数据到HBase的 日志服务（SLS）增量导入。数据集成需要较大开发。服务能力...
通过整库迁移配置集成任务
默认进入数据 开发 页面。按照下图操作指引，进入 新建整库迁移 页面。在 新建整库迁移 页面，配置参数。配置基本信息。参数 描述 整库迁移文件夹名称 允许最长字符256个，不支持以下特殊字符：|\/:?配置数据源信息。参数 描述 同步来源...
2023年
支持用户通过SQL、PyODPS、Python等进行数据分析、探索，挖掘数据的价值，完成大数据与AI的融合应用开发。本文为您介绍如何使用Notebook功能。（邀测）MaxCompute Notebook使用说明 2023-09-12 新增在本地环境上使用PyODPS 新说明 PyODPS是...
JindoDistCp使用说明
什么是JindoDistCp JindoDistCp是阿里云数据湖存储团队开发的大规模集群内部和集群之间分布式文件拷贝的工具。其使用MapReduce实现文件分发、错误处理和恢复，把文件和目录的列表作为MapReduce任务的输入，每个任务会完成源列表中部分文件...
数据上云工具
MaxCompute平台支持丰富的数据上传和下载工具（其中大部分工具已经在GitHub公开源代码，以开源社区的方式进行维护）。您可以根据实际应用场景，选择合适的工具进行数据的上传和下载。阿里云数加产品 MaxCompute客户端（Tunnel通道系列）...
概览
AnalyticDB PostgreSQL版 提供多种数据迁移方案，可满足不同的数据同步或迁移的业务需求，您可以在不影响业务的情况下，平滑地与各种类型的数据库实例进行迁移或数据同步。迁移数据到AnalyticDB PostgreSQL版 迁移类型 文档 简介 是否支持...
产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
MapReduce开发手册
javac-classpath<HADOOP_HOME>/share/hadoop/common/hadoop-common-X.X.X.jar:<HADOOP_HOME>/share/hadoop/mapreduce/hadoop-mapreduce-client-core-X.X.X.jar:<HADOOP_HOME>/share/hadoop/common/lib/commons-cli-1.2.jar-d wordcount_...
常见问题
hadoop jar<hadoop_home>/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-*-tests.jar sleep-m 1-mt 1000-r 0 您可以在 sleep-m 之间新增配置项以指定Queue，新增的参数为-Dmapreduce.job.queuename，参数值为default。...
HoloStudio一键迁移至DataStudio
为给您提供一致的开发体验，HoloStudio产品能力将整合至DataStudio中，届时您可使用DataStudio相关功能继续进行Hologres的数据开发。在指定时间内，您可参考本文手动迁移HoloStudio的已有文件至DataStudio；超过该时间，系统将自动为您完成...
- 产品推荐
- 这些文档可能帮助您