Spark作业原生运维与监控
背景信息 Databricks数据洞察提供了原生的监控运维UI，例如Spark UI和YARN UI，用户可根据自己的需求进行查询。本文主要介绍原生UI透露出来的日志监控和指标查询，配合平台侧的运维与监控能力，更好的服务于用户，运维Spark作业。集群Web ...
集群运维与监控
本文主要介绍Databricks数据洞察在集群维度的监控与告警能力。背景信息 目前Databricks数据洞察主要采用 阿里云监控 服务，完整对接DBR指标体系，实现多维度、多实例、多时段的指标图表监控，用户可以根据业务情况，灵活自定义告警规则，...
管理作业
在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击 项目空间。在 项目空间 页面，单击待操作项目所在行的 作业编辑。在 作业编辑 区域，在需要操作的文件...
Notebook
Python package 需要通过Databricks数据洞察控制页面选择相应的python包。Q：如何配置Spark Application 资源 通过以下属性配置driver的资源：spark.driver.memory spark.driver.cores 通过以下属性配置executor的资源：spark.executor....
什么是块存储数据洞察
块存储数据洞察（CloudLens for EBS）是阿里云针对块存储资源提供的数据分析、性能监控的一种功能。您可以通过该功能获取您的云上块存储资源信息与性能监控数据，以提升您对云上块存储资源的管理效率、帮助您高效地分析业务波动与资源性能...
ElasticSearch
本文介绍如何使用Databricks数据洞察访问ElasticSearch数据源。前提条件 通过主账号登录 阿里云Databricks控制台。已创建 ElasticSearch实例，具体参见 创建阿里云Elasticsearch实例。已创建DDI集群，具体请参见 创建集群。创建集群并通过...
API概览
数据洞察 API 标题 API概述 ApplyLensService 开通数据洞察服务 开通块存储数据洞察（CloudLens for EBS）。DescribeLensServiceStatus 查询数据洞察服务状态 查询用户开通ebs数据洞察服务状态。CancelLensService 取消数据洞察服务 取消块...
设置安全组白名单
属性 说明 规则方向 仅支持网络连接的 入方向 授权策略 仅支持 允许策略 协议类型 仅支持 TCP协议 端口范围 8443（knox）、10001（Spark Thrift Server）优先级 无 授权对象 IP地址 操作步骤 登录阿里云 Databricks 数据洞察控制台。...
访问Web UI
Databricks数据洞察集群提供了多个Web UI的访问入口，包括Notebook、Spark UI、Yarn UI和Ganglia监控。增加安全组白名单 为了用户的数据安全，DDI提供了安全组白名单机制来访问集群Web UI。默认不添加白名单是不能进行访问的，具体添加入口...
Databricks Delta Lake数据入湖最佳实践
本章架构图 步骤一：创建Kafka集群和Databricks 数据洞察集群 1.登录 阿里云E-MapReduce控制台。2.创建Kafka集群，详情参见 创建集群 3.登录 Databricks数据洞察控制台。4.创建集群，详情参见 创建集群。步骤二：Databricks 数据洞察集群...
使用Notebook
在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏中，单击 Notebook。在 Notebook 区域，选择待操作的集群。在 DataInsight Notebook 页面，单击创建好的Note...
Databricks数据洞察快速使用
本文指引您快速完成一次完整的Databricks数据洞察的使用操作。前提条件 已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 创建存储空间。警告 首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...
使用Databricks Delta优化Spark作业性能
OSS宽带 10Gbps 背景信息 Databricks数据洞察内置了Databricks商业版引擎，您可以利用Databricks数据洞察创建集群，实现在秒级响应时间内处理PB级别的数据。本文示例制造100亿条数据，利用Databricks Delta的Data Skipping和ZOEDER ...
什么是DataV-Card可视分析创作间
产品价值 自动化的数据洞察：对业务人员提供真正友好的数据分析工具，经验与AI的碰撞获取分析灵感，零代码开发就可完成的可视数据分析。智能可视化作品：5分钟内，通过简单、生动、形象的可视分析过程，实现数据作品创作；一次发布，自动...
RDS(SQL Server)
登录Databricks数据洞察集群进入Notebook，代码实现SQL Server数据读写。示例文本下载：The_Sorrows_of_Young_Werther.txt 在Notebook中使用%spark读取OSS文件，并执行WordCount代码实现。spark/从oss读取数据到spark的rdd import org....
按量付费
本文主要介绍Databricks数据洞察产品使用 按量付费 的付费方式时计算资源的费用参考（不包含块存储的价格）。中国站支持的区域，包括华东1（杭州）、华东2（上海）、华南1（深圳）、华北2（北京）、华北5（呼和浩特）美国（弗吉尼亚）。下...
作业提交示例
前提条件 在Databricks数据洞察产品中创建一个集群，详情请参见 创建集群 已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 创建存储空间。警告 首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...
作业日期设置
在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击 项目空间。在项目空间页面，单击待操作项目所在行的 作业编辑。进行作业设置。在作业编辑页面，选择...
RDS(MySQL)
4.登录Databricks数据洞察集群进入Notebook，代码实现MySQL数据读写。示例文本下载：The_Sorrows_of_Young_Werther.txt%spark import java.sql.{Connection,DriverManager,PreparedStatement} import java.util.Properties import org....
产品性能
本文介绍Databricks数据洞察采用的企业版Spark引擎性能对比数据，Databricks Runtime（简写dbr）的性能及Delta Lake功能是本产品的核心优势。Databricks Runtime完全兼容开源版本Spark，并且相对开源Spark引擎TPC-DS平均性能有 3~5倍提升，...
OSS数据权限隔离
},{"Effect":"Allow","Action":["oss:Listobjects","oss:GetObject","oss:PutObject"],"Resource":["acs:oss:*:*:prod-bucket","acs:oss:*:*:prod-bucket/*"]}]} 按上述脚本示例进行权限隔离后，RAM用户在Databricks 数据洞察控制台...
Redis
打通网络环境 登录 阿里云Databricks数据洞察控制台。进入DDI 数据源 点击 添加 选择 通用网络 打通，选择Redis数据库所在的VPC和vsw。登录 Redis控制台 添加DDI集群各个机器IP至访问白名单，或者在VPC登录处设置允许VPC内免密访问。使用...
快速实现数据分类分级
步骤四：查看分类分级结果 在左侧导航栏，选择 数据洞察>资产透视。在 资产类型 页签，找到目标数据库，并单击其操作列的 表详情。在表详情面板，查看敏感信息的统计数据和表列表。相关文档 如果您需要接入RDS外其他类型的数据库，具体操作...
开启并配置弹性伸缩
当您的业务量需求不断波动时，建议您开启弹性伸缩功能并配置相应的伸缩规则，以使Databricks数据洞察可按业务量波动来增加和减少Task节点。操作步骤 登录 阿里云Databricks控制台。在顶部菜单栏处，根据实际情况选择地域（Region）和资源组...
HBase
打通网络环境 登录 阿里云Databricks数据洞察控制台。进入DDI 数据源 点击 添加 选择 通用网络 打通，选择HBase数据库所在的VPC和vsw。登录 HBase控制台 添加DDI集群各个机器IP至访问白名单。创建HBase表准备数据，本实例使用的HBase表为：...
识别任务说明
在左侧导航栏，选择 数据洞察>任务管理。在 任务管理 页面 识别任务 页签，单击 系统默认任务。在 识别任务监控 页面，查看默认任务列表。调整系统默认任务扫描设置 系统默认任务默认每天凌晨执行一次扫描，您可以根据实际需要调整系统默认...
MongoDB
MongoDB数据源与DDI网络打通 登录MongoDB管理控制台 云数据库MongoDB管理控制台 点击上部选择实例所在 region 点击实例ID进入实例详情页面 查看 基本信息 找到对应的VPV和VSwitch 登录到databricks数据洞察集群 阿里云Databricks控制台 ...
项目空间运维与监控
本文主要介绍Databricks数据洞察中项目空间具有的运维与监控能力。背景信息 项目空间的运维能力主要辅助作业开发和工作流生产，前者提供作业开发过程中的日志监控、版本监控和操作审计监控；后者兼容前者的功能，更提供针对调度场景下的...
项目管理
创建Databricks 数据洞察集群后，您可以在数据开发中创建项目，并在项目中进行作业的编辑和工作流的调度。新建项目之后，您可以对项目进行管理，为项目关联集群资源、添加项目成员以及设置全局变量。前提条件 已创建集群，详情请参见 集群...
按时间伸缩规则配置
配置伸缩规则 在Databricks数据洞察中开启弹性伸缩时，如果选择按时间配置伸缩规则，则根据以下说明配置相关参数即可 伸缩规则分为扩容规则和缩容规则。集群关闭弹性伸缩功能后，所有规则会被清空，再次开启弹性伸缩功能时，需要重新配置...
Databricks Runtime
说明 当前Databrick 数据洞察支持版本为：DBR5.5，Spark2.4.3，Scala 2.11。用于机器学习的Databricks Runtime 用于机器学习的Databricks Runtime（Databricks Runtime ML）自动创建针对机器学习优化的集群。Databricks Runtime ML集群包括...
Databricks数据洞察Notebook演示
本文针对Databricks数据洞察Notebook基本使用的一个示例。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群，具体请参见 创建集群。已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 创建存储空间。警告 首次使用DDI...
Quick BI
Quick BI是一款专为云上用户和企业量身打造的新一代自助式智能BI服务平台，其简单易用的可视化操作和灵活高效的多维分析能力，让精细化数据洞察为商业决策保驾护航。您可以使用外网或VPC网络连接 云数据库ClickHouse，在Quick BI中添加 云...
产品概述
具有自动化的数据洞察、智能生成可视化作品和灵活高效的数据协同等特点，详情请参见 什么是DataV-Card可视分析创作间。子产品相关链接 DataV-Board 数据看板 产品简介 产品计费 DataV-TwinFabric 孪生仿真 产品简介 DataV-Atlas 可视分析...
CreateClusterV2
调用CreateClusterV2，创建一个Databricks 数据洞察集群。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action...
Databricks Delta vs Open-Source Delta Lake
本文介绍Databricks数据洞察产品中Databricks Runtime Delta和社区开源版本Delta Lake在性能优化方面的差异点。Performance Optimization 1.Compaction Delta Lake on Databricks can improve the speed of read queries from a table by ...
机器学习开发示例
本文介绍如何使用阿里云 Databricks 数据洞察的Notebook进行机器学习开发。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群，具体请参见 创建集群。已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 控制台创建存储...
基于TPC-DS测试Databricks引擎性能
在Databricks数据洞察的项目空间中创建一个新项目，操作如下：步骤三：生成测试数据集脚本 spark资源可以根据测试数据量与集群规模配置的具体情况，进行逐一调整。scale_factor参数控制整个测试集的数据量（如scale_factor=1000 即1T的数据...
通过DSC实现DMS数据分类分级
在左侧导航栏，选择 数据洞察>任务管理。在 识别任务 页签，单击 系统默认任务。单击目标RDS实例操作列的 重扫。为了将扫描对数据库的影响降到最低，建议您在数据资产调用低峰期的时段执行重扫操作。在DMS控制台为新建的实例开通敏感数据...
Quick BI
Quick BI是一款专为云上用户和企业量身打造的新一代自助式智能BI服务平台，其简单易用的可视化操作和灵活高效的多维分析能力，让精细化数据洞察为商业决策保驾护航。您可以在Quick BI中添加 AnalyticDB MySQL版 数据源并通过Quick BI构建BI...
- 产品推荐
- 这些文档可能帮助您