AddPartitions
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 AddPartitions 系统规定参数。取值：...
SDK概述
说明 emr-oss：支持Hadoop、Spark与OSS数据源的交互，默认已经存在集群的运行环境中，作业打包时不需要将emr-oss打进去。emr-tablestore：支持Hadoop、Hive、Spark与TableStore数据源的交互，使用时需要打进作业JAR包。emr-mns_2.11：支持...
如何统计表行数
通过Lindorm SQL统计表行数的速度比使用HBase RowCounter统计表行数的速度快，是因为Lindorm自动将COUNT的统计逻辑分布式地下发给每一个Lindorm进程，相当于多线程进行统计，而HBase Shell是单线程进行统计。但是COUNT的统计过程仍然是扫描...
通过DataWorks管理作业
Lindorm计算引擎兼容CDH（Cloudera's Distribution Including Apache Hadoop），支持通过大数据开发治理平台DataWorks开发、管理、调度、运维分布式计算作业。作业类型包括交互式SQL查询、SQL作业、JAR作业、Python作业等。本文介绍如何...
GetTable-获取元数据表详情
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
GetTableVersion-获取元数据表指定版本
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/api/metastore/catalogs/databases/tables/versions...
应用场景
本文介绍 云消息队列 Kafka 版 的典型应用场景，包括网站活动跟踪、日志聚合、数据处理、数据中转枢纽。网站活动跟踪 成功的网站运营需要对站点的用户行为进行分析。通过 云消息队列 Kafka 版 的发布/订阅模型，您可以实时收集网站活动数据...
ListTables-获取元数据表列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
OSS/OSS-HDFS快速入门
访问方式 支持通过Hadoop Shell命令、Jindo CLI命令、POSIX命令和OSS控制台四种方式访问OSS/OSS-HDFS。各访问方式的示例和描述如下：访问方式 示例 描述 Hadoop Shell命令 hadoop fs-ls oss:/examplebucket....
数据湖集群
Spark部署 数据湖集群在原有Hadoop2+Spark2和Hadoop3+Spark3的基础上，增加了Hadoop2+Spark3和Hadoop3+Spark2的组合部署模式。您可以根据实际情况，选择满足自己的软件组合。另外，数据湖集群支持Kyuubi，一个企业级的数据湖计算引擎...
BatchGetTables-批量获取元数据表详情
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
查询集群列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 ListClusters 系统规定参数。取值：...
CreateTable
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 CreateTable 系统规定参数。取值：CreateTable...
SHOW
本文为您介绍不同操作中SHOW命令的用法以及示例。...spatial-sdk-hive.jar ST_AsJson ALIYUN$@aliyun.com 2021-03-18 17:06:50 com.esri.hadoop.hive.ST_AsJson esri-geometry-api.jar,spatial-sdk-hive.jar ST_AsShape ALIYUN$@aliyun....
SHOW
本文为您介绍不同操作中SHOW命令的用法以及示例。...spatial-sdk-hive.jar ST_AsBinary ALIYUN$@aliyun.com 2021-03-18 17:06:30 com.esri.hadoop.hive.ST_AsBinary esri-geometry-api.jar,spatial-sdk-hive.jar ST_AsGeoJson ALIYUN$@aliyun....
Search-搜索元数据
接口说明 元数据检索 调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/metastore/catalogs/...
非EMR集群接入OSS-HDFS服务快速入门
JindoSDK为Apache Hadoop的计算分析应用（例如MapReduce、Hive、Spark、Flink等）提供了访问HDFS服务的能力。本文介绍如何通过在ECS实例中部署JindoSDK，然后完成OSS-HDFS服务快速入门相关操作。前提条件 已创建ECS实例。具体步骤，请参见 ...
ListTableVersions-获取元数据表版本列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/api/metastore/catalogs/databases/tables/versions...
SmartData常见问题
JindoFS主要是对阿里云OSS提供HCFS（Hadoop Compatible FileSystem）接口封装，并且在此基础上提供缓存加速能力和高级优化定制的功能。因为Hadoop和Spark生态组件依赖HCFS的抽象接口，所以需要使用JindoFS。JindoFS有哪些使用方式？使用...
Spark-2.x示例
配置Spark-2.x的依赖 通过MaxCompute提供的Spark客户端提交应用时，需要在 pom.xml 文件中添加以下依赖。pom.xml 文件请参见 pom.xml。spark.version>2.3.0</spark.version><cupid.sdk.version>3.3.8-public...
Hudi
API种类 Datastream和SQL 是否支持更新或删除结果表数据 是 特色功能 类别 详情 Hudi的核心特性 支持ACID：支持ACID语义，默认提供SNAPSHOT ISOLATION隔离级别。支持UPSERT语义：UPSERT语义是INSERT和UPDATE两种语义的合并。在UPSERT语义时...
查询节点实例容器日志
调用DescribeFlowNodeInstanceContainerLog接口，查询节点实例容器日志。说明 DescribeFlowNodeInstanceContainerLog接口由于数据限流，返回率不高，所以不建议使用。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰...
EMR HBase版本
兼容性 Major Minor Patch Client-Server接口/协议兼容性 N Y Y Server-Server接口/协议兼容性 N Y Y 文件格式兼容性 N Y Y Client API 兼容性 N Y Y 说明 表格中的N表示不兼容，Y表示兼容。HBase版本兼容性详情请参见 Apache HBase ...
查询项目中可用的集群列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 ListFlowCluster 系统规定参数。对于您自行...
使用Cruise Control
rw-r-r-1 kafka hadoop 109095 Jul 20 15:07 kafkacruisecontrol.log-rw-r-r-1 kafka hadoop 0 Jul 20 15:07 kafkacruisecontrol-operation.log-rw-r-r-1 kafka hadoop 87452 Jul 20 15:07 kafka-cruise-control.out-rw-r-r-1 kafka hadoop...
GetTable
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 GetTable 系统规定参数。取值：GetTable。...
通过Spark SQL读Lindorm数据
SET spark.hadoop.dfs.client.failover.proxy.provider.ld-bp1ttz8833x9c*=org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider;SET spark.hadoop.dfs.ha.automatic-failover.enabled=true;SET spark.hadoop.dfs....
Spark使用JindoSDK查询OSS-HDFS服务中的数据
JindoSDK是一个面向Hadoop、Spark生态且简单易用的OSS客户端，为OSS提供高度优化的Hadoop FileSystem实现。相对于Hadoop社区OSS客户端，Spark使用JindoSDK查询OSS-HDFS服务中的数据时，可以获得更好的性能。前提条件 已创建ECS实例。具体...
快速入门
说明 当前示例程序使用了HBase API访问表格存储服务，完整的示例程序位于Github的 hbase 项目中，目录位置为 src/test/java/samples/HelloWorld.java。操作步骤 配置项目依赖。Maven的依赖配置如下：<dependencies><dependency><groupId>...
GetPartition-获取元数据库分区
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
Spark访问Table Store
JavaPairRDD,RowWritable>rdd=sc.newAPIHadoopRDD(hadoopConf,TableStoreInputFormat.class,PrimaryKeyWritable.class,RowWritable.class);System.out.println(new Formatter().format("TOTAL:%d",rdd.count()).toString());} finally { if...
查询项目设置详情
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 DescribeFlowProjectClusterSetting 系统规定...
SearchAcrossCatalog-跨Catalog搜索元数据
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/metastore/catalogs/search/search-across-...
BatchGetPartitions-批量获取元数据库分区
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
2021年
2021-09-14 华南1金融云（深圳）无 MaxCompute 支持访问开启Kerberos 认证授权机制的 Hadoop集群 大部分企业的Hadoop的生产集群开启了 Kerberos认证授权机制，本次功能升级能够利用MaxCompute访问开启Kerberos认证授权机制的 Hadoop集群，...
创建项目集群设置
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 CreateFlowProjectClusterSetting 系统规定...
ListPartitions-获取元数据库分区列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
CreatePartition-新增元数据表的分区
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM...
查询项目集群设置列表
调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 ListFlowProjectClusterSetting 系统规定参数...
网络开通流程
您需要开通网络连接以便访问外网或VPC中的目标服务（例如指定IP或域名、RDS、HBase集群、Hadoop集群等）。本文为您介绍MaxCompute与目标服务间的网络结构及支持的网络开通方案。免责声明 MaxCompute提供的公网与VPC访问能力目前属于免费...
- 产品推荐
- 这些文档可能帮助您