spark redis-spark redis文档介绍内容-阿里云

Databricks数据洞察快速使用

本文指引您快速完成一次完整的Databricks数据洞察的使用操作。前提条件已使用OSS管理控制台创建非系统目录存储空间，详情请参见创建存储空间。警告首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...

查看集群列表信息

在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏中，单击集群。集群管理页面展示您所拥有的所有集群的基本信息，以及各集群支持的操作。参数说明集群ID/...

设置安全组白名单

属性说明规则方向仅支持网络连接的入方向授权策略仅支持允许策略协议类型仅支持 TCP协议端口范围 8443（knox）、10001（Spark Thrift Server）优先级无授权对象 IP地址操作步骤登录阿里云 Databricks 数据洞察控制台。...

读取数据库数据%spark import java.sql.{Connection,DriverManager,PreparedStatement} import java.util.Properties import org.apache.spark.sql.types.{IntegerType,StringType,StructField,StructType} import org.apache.spark.sql.{...

续费流程

本文为您介绍如何手动和自动续费Databricks数据洞察(DDI)集群，以及取消自动续费。背景信息只有包年包月集群才需要进行续费操作，按量集群是实时结算的。DDI续费方式包括手动续费和自动续费两种。前提条件请确认包年包月集群还未到期。您...

作业提交示例

前提条件在Databricks数据洞察产品中创建一个集群，详情请参见创建集群已使用OSS管理控制台创建非系统目录存储空间，详情请参见创建存储空间。警告首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...

用户管理

本文介绍如何通过Databricks 数据洞察的用户管理功能，管理集群DDI用户。DDI用户信息存储在集群自带的OpenLDAP中，主要用于在DDI集群内的身份认证。DDI用户可以用于访问链接与端口，查看组件Web UI时的用户身份认证，也可以在开启组件LDAP...

访问Web UI

Databricks数据洞察集群提供了多个Web UI的访问入口，包括Notebook、Spark UI、Yarn UI和Ganglia监控。增加安全组白名单为了用户的数据安全，DDI提供了安全组白名单机制来访问集群Web UI。默认不添加白名单是不能进行访问的，具体添加入口...

包年包月

本文主要介绍Databricks数据洞察产品使用包年包月的付费方式时计算资源的费用参考（不包含块存储的价格）。说明公测期间创建的按量付费集群，在公测结束后，将被释放。请您提前做好作业备份。使用对象存储OSS产生的费用需要另行计算，不...

基于TPC-DS测试Databricks引擎性能

在Databricks数据洞察的项目空间中创建一个新项目，操作如下：步骤三：生成测试数据集脚本 spark资源可以根据测试数据量与集群规模配置的具体情况，进行逐一调整。scale_factor参数控制整个测试集的数据量（如scale_factor=1000 即1T的数据...

按负载伸缩规则配置

在使用Databricks数据洞察集群时，如果您无法准确的预估大数据计算的波峰和波谷，则可以使用按负载伸缩配置的策略。在Databricks数据洞察中开启弹性伸缩时，如果选择按负载配置伸缩规则，则根据以下说明配置相关参数即可。详细配置步骤请...

集群运维与监控

背景信息目前Databricks数据洞察主要采用阿里云监控服务，完整对接DBR指标体系，实现多维度、多实例、多时段的指标图表监控，用户可以根据业务情况，灵活自定义告警规则，摆脱底层的束缚，根据平台产品层面的能力，高效感知问题，运维...

管理作业

在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击项目空间。在项目空间页面，单击待操作项目所在行的作业编辑。在作业编辑区域，在需要操作的文件...

Databricks数据洞察Notebook演示

本文针对Databricks数据洞察Notebook基本使用的一个示例。前提条件通过主账号登录阿里云 Databricks控制台。已创建集群，具体请参见创建集群。已使用OSS管理控制台创建非系统目录存储空间，详情请参见创建存储空间。警告首次使用DDI...

Databricks Delta vs Open-Source Delta Lake

本文介绍Databricks数据洞察产品中Databricks Runtime Delta和社区开源版本Delta Lake在性能优化方面的差异点。Performance Optimization 1.Compaction Delta Lake on Databricks can improve the speed of read queries from a table by ...

按量付费

本文主要介绍Databricks数据洞察产品使用按量付费的付费方式时计算资源的费用参考（不包含块存储的价格）。中国站支持的区域，包括华东1（杭州）、华东2（上海）、华南1（深圳）、华北2（北京）、华北5（呼和浩特）美国（弗吉尼亚）。下...

Delta Lake 快速开始二

创建数据库 不指定路径创建数据库，创建的数据库会存储在当前集群hive路径中%pyspark#创建数据库目录，你也可以选择自定义目录 database="db_test"spark.sql("DROP DATABASE IF EXISTS {} CASCADE".format(database))spark.sql("CREATE ...

作业日期设置

在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击项目空间。在项目空间页面，单击待操作项目所在行的作业编辑。进行作业设置。在作业编辑页面，选择...

OSS数据权限隔离

},{"Effect":"Allow","Action":["oss:Listobjects","oss:GetObject","oss:PutObject"],"Resource":["acs:oss:*:*:prod-bucket","acs:oss:*:*:prod-bucket/*"]}]} 按上述脚本示例进行权限隔离后，RAM用户在Databricks 数据洞察控制台...

机器学习开发示例

本文介绍如何使用阿里云 Databricks 数据洞察的Notebook进行机器学习开发。前提条件通过主账号登录阿里云 Databricks控制台。已创建集群，具体请参见创建集群。已使用OSS管理控制台创建非系统目录存储空间，详情请参见控制台创建存储...

开启并配置弹性伸缩

当您的业务量需求不断波动时，建议您开启弹性伸缩功能并配置相应的伸缩规则，以使Databricks数据洞察可按业务量波动来增加和减少Task节点。操作步骤登录阿里云Databricks控制台。在顶部菜单栏处，根据实际情况选择地域（Region）和资源组...

CreateClusterV2

调用CreateClusterV2，创建一个Databricks 数据洞察集群。调试您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数名称类型是否必选示例值描述 Action...

项目管理

创建Databricks 数据洞察集群后，您可以在数据开发中创建项目，并在项目中进行作业的编辑和工作流的调度。新建项目之后，您可以对项目进行管理，为项目关联集群资源、添加项目成员以及设置全局变量。前提条件已创建集群，详情请参见集群...

项目空间运维与监控

本文主要介绍Databricks数据洞察中项目空间具有的运维与监控能力。背景信息项目空间的运维能力主要辅助作业开发和工作流生产，前者提供作业开发过程中的日志监控、版本监控和操作审计监控；后者兼容前者的功能，更提供针对调度场景下的...

按时间伸缩规则配置

配置伸缩规则在Databricks数据洞察中开启弹性伸缩时，如果选择按时间配置伸缩规则，则根据以下说明配置相关参数即可伸缩规则分为扩容规则和缩容规则。集群关闭弹性伸缩功能后，所有规则会被清空，再次开启弹性伸缩功能时，需要重新配置...

Databricks Runtime

有关顶级库和其他提供的库的完整列表，请参见以下有关每个可用Runtime的文章：Databricksr Runtime 7.4 ML（测试版）Databricks Runtime 7.3 LTS ML Databricks Runtime 7.2 ML Databricks Runtime 7.1 ML Databricks Runtime 7.0 ML ...

通过缓存优化性能

每个节点为缓存的元数据保留的磁盘空间（以字节为单位）spark.databricks.io.cache.compression.enabled-缓存的数据是否应以压缩格式存储 INI spark.databricks.io.cache.maxDiskUsage 50g spark.databricks.io.cache.maxMetaDataCache 1g ...

表版本控制

您还可以通过设置SQL配置来设置默认协议版本：spark.databricks.delta.protocol.minWriterVersion=2(default)spark.databricks.delta.protocol.minReaderVersion=1(default)要将表升级到较新的协议版本，请使用以下DeltaTable....

Delta Engine 概述

Delta Engine 是与 Apache Spark 兼容的高性能查询引擎，提供了一种高效的方式来处理数据湖中的数据，包括存储在开源 Delta Lake 中的数据。Delta Engine 优化可加快数据湖操作速度，并支持各种工作负载，从大规模 ETL 处理到临时交互式...

动态文件剪枝

创建一个Notebook，在该Notebook中进行试验，先创建数据库，并在数据库中基于以上生成的数据创建表，对表store_sales的 ss_item_sk 列做ZOrdering优化：%sql-创建数据库 CREATE DATABASE dfp;使用刚创建的数据库 USE dfp;基于上述生成的...

Tablestore

sql-创建数据库 CREATE DATABASE IF NOT EXISTS table_store;USE table_store;创建表 DROP TABLE IF EXISTS delta_order_source;CREATE TABLE delta_order_source USING tablestore-配置项信息链接tablestore，定义schema OPTIONS(endpoint...

EMR HDFS

本文介绍如何使用Databricks 读写EMR HDFS文件系统数据。前提条件通过主账号登录阿里云 Databricks控制台。已创建 EMR集群，具体参见 EMR集群创建已创建DDI集群，具体请参见 DDI集群创建。创建集群并通过knox账号访问Notebook。接入EMR ...

MaxCompute

本文介绍如何使用Databricks 读写MaxCompute数据。前提条件已创建 MaxCompute实例，具体参见快速体验MaxCompute 通过主账号登录阿里云 Databricks控制台。已创建DDI集群，具体请参见 DDI集群创建。创建集群并通过knox账号访问NoteBook。...

OSS

本文介绍如何使用Databricks 读写 OSS文件系统数据。前提条件通过主账号登录阿里云 Databricks控制台。已创建集群，具体请参见创建集群。已使用OSS管理控制台创建非系统目录存储空间，详情请参见创建存储空间。警告首次使用DDI产品...

常见问题（FAQ）

客户提供的加密密钥的服务器端加密您可以通过将设置spark.databricks.delta.multiClusterWrites.enabled为来禁用多集群写入false。如果禁用它们，对单个表的写入必须来自单个集群。我可以在Databricks Runtime之外访问Delta表吗？有两种...

CSV文件

spark spark.read.format("csv")1.hearder 选项默认header=false%spark val path="oss:/databricks-data-source/datas/input.csv"val dtDF=spark.read.format("csv").option("mode","FAILFAST").load(path)dtDF.show(5)数据展示 header=...

Delta Lake 快速开始一

delta=spark.read.format("delta").load(deltaPath)events_delta.printSchema()重置数据库%pyspark spark.sql("DROP DATABASE IF EXISTS {} CASCADE".format(database))#注意{}是在pyspark里spark.sql()中使用的变量，参数在.format中指定...

Parquet（推荐）

Parquet是一种开源的面向列的数据存储格式，它提供了各种存储优化，尤其适合数据分析。Parquet提供列压缩从而可以节省空间，而且它支持按列读取而非整个文件的读取。作为一种文件格式，Parquet与Apache Spark配合的很好，而且实际上也是...

JSON文件

{"key":"value3","extra_key":"extra_value3"}} 数据读取%spark val path="oss:/databricks-data-source/datas/example.json"val data_json=spark.read.format("json").load(path)data_json.show()data_json.printSchema()2.添加mode，...

ORC文件

读取orc数据%spark val inputPath="oss:/databricks-data-source/datas/orc_data"val dataDF=spark.read.format("orc").option("header","true").option("inferSchema","true").option("mode","FAILFAST").load(inputPath)dataDF.show(3)...

spark redis

新品推荐