EMR Spark功能增强
阿里云E-MapReduce产品构建于阿里云云服务器ECS上，基于开源的Apache Hadoop和Apache Spark，做了大量优化。本文为您介绍E-MapReduce（简称EMR）Spark相对开源增强的功能。背景信息 阿里云EMR 100%采用社区开源组件，随开源版本升级迭代，...
Iceberg概述
您可以借助Iceberg快速地在HDFS或者阿里云OSS上构建自己的数据湖存储服务，并借助开源大数据生态的Spark、Flink、Hive和Presto等计算引擎来实现数据湖的分析。核心能力 Apache Iceberg设计初衷是为了解决Hive数仓上云的问题，经过多年迭代...
和开源产品对比
在分布式任务调度领域中，Quartz、ElasticJob和XXL-JOB是广受欢迎的开源解决方案。为了更深入地理解分布式任务调度技术并全面评估SchedulerX在此领域的优势与特点，本文将对比SchedulerX与这些主流开源产品的特性与功能。项目 Quartz ...
开始监控除Java之外的应用
开源社区兼容：基于OpenTracing标准，兼容Jaeger、Zipkin等开源产品。下游场景对接：收集的链路可直接用于日志分析，且可对接到MaxCompute等下游分析平台。监控多语言应用 语言 文档 Go应用 通过OpenTelemetry上报Go应用数据 Kitex接入可...
SchedulerX和开源产品对比
在分布式任务调度领域中，Quartz、ElasticJob和XXL-JOB是广受欢迎的开源解决方案。为了更深入地理解分布式任务调度技术并全面评估SchedulerX在此领域的优势与特点，本文将对比SchedulerX与这些主流开源产品的特性与功能。项目 Quartz ...
Hive作业异常排查及处理
yarn logs-applicationId application_xxx_xxx-appOwner userName 内存问题引起的报错 Container内存不足引起的OOM 报错日志：java.lang.OutOfMemoryError:GC overhead limit exceeded 或者 java.lang.OutOfMemoryError:Java heap space。...
消息收发功能
发送端和消费端的终端设备均通过开源的终端SDK接入 云消息队列 MQTT 版 实现消息收发。典型场景示例 即时通信：例如，两个安装有聊天App的移动手机直接通过 云消息队列 MQTT 版 服务端收发聊天信息。智能设备管理：例如，通过安装在手机上...
Flink Python参考
背景信息 DataFlow集群的Flink Python API完全兼容开源的Flink版本，关于Flink Python API的详细信息，请参见 Python API。使用Python依赖 通过以下场景为您介绍如何使用Python依赖：使用自定义的Python虚拟环境 使用第三方Python包 使用...
开源客户端首次连接配置
本文以Java SDK为例介绍开源MQTT客户端首次连接服务端时如何初始化客户端和配置自动重连功能。开源客户端Java SDK下载地址 paho.mqtt.java SDK版本 SDK依赖如下，建议使用最新版本。groupId>org.eclipse.paho</groupId>...
产品架构
从上图可以看出EMR由四部分组成：社区开源产品 集成Apache社区开源大数据组件，例如Hadoop、Hive和HBase，随着EMR版本更新，开源软件也会相应的升级，详情请参见 版本概述 下各版本的版本说明。注意 已经创建好的EMR集群不支持组件升级。...
Presto概述
基本特性 Presto使用Java语言进行开发，具备易用、高性能和强扩展能力等特点，具体如下：完全支持ANSI SQL。支持丰富的数据源，例如，Hive、Hudi、Iceberg、Delta Lake、MySQL和PostgreSQL。支持高级数据结构，具体如下：数组和Map数据 ...
什么是EMR on ECS
100%采用社区开源组件，适配并优化开源组件，性能远高于开源版本。基于时间的弹性伸缩能力，抢占式实例可进一步降低成本。解耦了计算与存储之间的绑定关系，实现了资源的弹性利用。分钟级别创建和扩容集群，无需手动部署和启动服务。产品...
SDK FAQ
开源客户端是否可以直接访问云上服务？云消息队列 RabbitMQ 版 完全兼容开源RabbitMQ。开源RabbitMQ可以直接访问云上服务。您需要通过 云消息队列 RabbitMQ 版 控制台生成静态用户名密码之后，通过静态账户直接访问云上服务。如何创建静态...
开源自建对比
基础场景 对比项 开源自建SC/Dubbo+IaaS集群 开源自建SC/Dubbo+自建K8s集群 SAE IaaS购买和系统搭建 需要。需要。不需要。SAE 内置K8s集群底座和微服务框架。运维成本 需要。需要。不需要。SAE 免运维。硬件成本 按峰值固定保有包年IaaS，...
开通EMR Doctor（Hadoop集群类型）
YARN mapred-site.xml 配置项名称：yarn.app.mapreduce.am.command-opts、mapreduce.map.java.opts、mapreduce.reduce.java.opts 配置项的值：noverify-javaagent:/usr/lib/taihaodoctor-current/emr-agent/btrace-agent.jar=libs=mr yanr-...
Nacos引擎版本说明
开源核心版本：Nacos引擎的开源版本，会随着开源版本一起更新。MSE优化版本：MSE基于开源核心版本进行优化后，提供的能力更强并且可以实现快速迭代的版本。版本类型 开源核心版本 MSE优化版本 描述 专业版/开发版 2.2.3 2.2.3.3 支持配置按...
通过开源HDFS客户端连接并使用文件引擎
本文介绍如何使用开源HDFS客户端访问文件引擎。前提条件 已安装Java环境，JDK版本不能低于1.7。已将客户端IP地址添加至Lindorm白名单。如何添加，请参见 设置白名单。注意事项 如果应用部署在ECS，您需要确保 云原生多模数据库 Lindorm ...
产品优势
阿里云 可观测监控 Prometheus 版 全面对接开源Prometheus生态，支持类型丰富的组件监控，覆盖绝大部分开源基础设施软件指标采集能力。提供多种开箱即用的预置监控大盘，并集成丰富的Kubernetes基础监控以及常用服务预设看板，且提供全面...
开启Nacos开源控制台
Nacos引擎提供一个默认的控制台操作页面，即 开源控制台。由于此控制台安全能力较弱，MSE Nacos从 2.2.3.1 版本开始，将 默认关闭 开源控制台。本文介绍如何重新开启开源控制台的使用。前提条件 已 开通MSE。已创建Nacos引擎。具体操作，请...
JindoFS介绍和使用
JindoFS是基于阿里云对象存储OSS，为开源大数据生态构建的Hadoop兼容文件系统（Hadoop Compatible File System，HCFS）。JindoFS提供兼容对象存储的纯客户端模式（SDK）和缓存模式（Cache），以支持与优化Hadoop和Spark生态大数据计算对OSS...
Hadoop DistCp介绍
Hadoop DistCp和Jindo DistCp的区别 DistCp类型 功能 使用场景 Hadoop DistCp 开源Hadoop内置的DistCp工具，用于大型集群间或集群内数据的复制。HDFS到HDFS间的数据复制。Jindo DistCp JindoFS的数据迁移工具，支持OSS、OSS-HDFS服务、兼容...
什么是EMR on ACK
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。形态对比 阿里云EMR提供on ECS和on ACK两种方式，以...
Delta Lake概述
与开源Delta Lake对比 EMR-Delta Lake丰富了开源Delta Lake的特性，例如对SQL和Optimize的支持等。下表列出了Delta Lake的基本特性，并对比EMR-Delta Lake与开源Delta Lake（0.6.1）。特性 EMR-Delta 开源Delta SQL ALTER CONVERT CREATE ...
查看节点健康状态
良好：0存在隐患：90异常：95百分比 host_system_environment_check 检测重要的系统环境，例如/etc/hostname，/etc/resolve.conf等文件，以及Java、Python的版本。无阈值，有一个系统环境检测异常即为异常。host_application_environment_...
同步EMR Kafka数据至OSS
修改 JAVA_OPTS 的参数值。例如，设置为1g，则参数值修改为-Xmx1g。单击 flume-conf.properties 页签。本文示例采用的是全局配置方式，如果您想按照节点配置，可以在 FLUME 服务 配置 页面的下拉列表中选择 独立节点配置。在 flume-conf....
JindoFS块存储模式
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
Spark作业异常排查及处理
外部数据源问题引起的报错 java.sql.SQLException:No suitable driver found for jdbc:mysql:xxx mysql-connector-java版本过低，请替换为较新版本（例如5.1.48以上版本）。连接RDS报错Invalid authorization specification,message from ...
扩容集群
示例 Java和Python示例如下：Java 根据集群所在Region和集群ID，获取该集群的Task机器组的GroupId。import com.aliyuncs.DefaultAcsClient;import com.aliyuncs.IAcsClient;import com.aliyuncs.exceptions.ClientException;import ...
ClickHouse概述
EMR ClickHouse完全兼容开源版本的产品特性，同时提供集群快速部署、集群管理、扩容、缩容和监控告警等云上产品功能，并且在开源的基础上优化了ClickHouse的读写性能，提升了ClickHouse与EMR其他组件快速集成的能力。特性 特性 描述 列式...
访问链接与端口
通过访问链接与端口功能，您可以方便地通过控制台方式访问集群中已安装开源组件Web UI的地址。本文将介绍如何设置安全组规则和访问链接，以便查看集群中开源组件的UI界面。前提条件 已创建E-MapReduce集群，详情请参见 创建集群。背景信息 ...
SmartData 3.5.x版本简介
JindoSDK Java使用JindoSDK时，JindoSDK日志输出到Java日志中，以提高可诊断性。新增SDK端使用内存统计日志，可以看到当前JindoSDK使用的内存大小。JindoTable计算优化 JindoTable新增native加速功能，可以对使用Spark、Hive或Presto读取...
迁移方案
基于Flink on YARN的部署模式，在未设置 yarn.provided.lib.dirs 参数的情况下，Flink作业在YARN集群中运行时所使用的Flink Runtime为提交作业的客户端所使用的Flink（例如，开源Flink 1.13等）。因此如果您想使用特定的Flink版本运行作业...
在调度中使用EMR Doctor任务采集功能
current/emr-agent/btrace-agent.jar=libs=mr mapreduce.map.java.opts mapreduce.reduce.java.opts Tez tez.task.launch.cmd-opts 新版本集群-javaagent:/opt/apps/TAIHAODOCTOR/taihaodoctor-current/emr-agent/btrace-agent.jar=libs=mr...
功能特性
EMR on ECS 功能集 功能 功能描述 参考文档 集群管理 创建集群 您可以轻松构建和运行Hadoop、Spark、Hive、Presto等开源大数据框架，以进行大规模数据处理和分析等操作。创建集群 释放集群 在完成EMR集群任务后及时释放集群，可以释放资源...
SPARK
支持 JAVA、SCALA、PYTHON、SQL 和 CUSTOM_SCRIPT 语言。说明 选择的类型不同，展示的参数也不同，具体以控制台为准。主函数的Class Spark程序的入口Main Class的全路径。主程序包 执行Spark程序的JAR包。通过 资源中心 上传，详情请参见 ...
生命周期策略
本文为您介绍开源大数据开发平台E-MapReduce（简称EMR)的产品生命周期策略及产品终止策略（包含产品粒度与发行版本粒度），以便您知晓详细规则，提早做好相应准备。背景信息 产品的更新换代是基础技术软件领域的常态。在开源大数据社区蓬勃...
生命周期策略
本文为您介绍开源大数据开发平台E-MapReduce（简称EMR)的产品生命周期策略及产品终止策略（包含产品粒度与发行版本粒度），以便您知晓详细规则，提早做好相应准备。背景信息 产品的更新换代是基础技术软件领域的常态。在开源大数据社区蓬勃...
Spark对接HBase
Java代码 JavaSparkContext jsc=new JavaSparkContext(sparkConf);try { List[]>list=new ArrayList();list.add(Bytes.toBytes("1"));list.add(Bytes.toBytes("5"));JavaRDD[]>rdd=jsc.parallelize(list);Configuration conf=...
Spark访问EMR HBase数据
Java代码 JavaSparkContext jsc=new JavaSparkContext(sparkConf);try { List[]>list=new ArrayList();list.add(Bytes.toBytes("1"));list.add(Bytes.toBytes("5"));JavaRDD[]>rdd=jsc.parallelize(list);Configuration conf=...
EMR Doctor常见问题
EMR Doctor的任务采集使用Java探针技术，不会单独启动Java进程监控。采集使用异步方式，不会阻塞任务主进程，当采集造成的压力过大时，会自动丢弃采集数据，并且您可以根据参数调整采集频率等。TPC-DS部分测试的数据如下表所示。SQL及使用...
- 产品推荐
- 这些文档可能帮助您