Spark应用性能诊断

AnalyticDB for MySQL 湖仓版(3.0)推出Spark应用诊断功能,若您提交的Spark应用存在性能问题,您可以根据诊断信息快速定位和分析性能瓶颈问题,优化Spark应用,提高问题解决效率。本文主要介绍如何进行Spark应用性能诊断以及性能诊断的...

产品优势

AnalyticDB MySQL版 提供融合数据库、大数据技术于一体的云原生企业级数据仓库服务,高度兼容MySQL,支持毫秒级更新,亚秒级查询。无论是数据湖中的非结构化或半结构化数据,还是数据库中的结构化数据,您都可使用 AnalyticDB MySQL 构建...

Spark开发编辑器

前提条件 已创建 AnalyticDB MySQL 湖仓版(3.0)集群,详情请参见 创建集群。已创建Job型资源组,且计算预留资源需大于等于8 ACU。创建资源组,详情请参见 新建资源组。已为RAM用户授权。具体操作,请参见 为RAM用户授权。已将RAM用户(子...

查询场景

业务背景 交互式分析指的是业务人员通过BI工具或自助式查询平台进行自由的数据探索性查询场景,查询语句的主要特点是支持多维度组合、支持多表Join、包含聚合查询、包含子查询、包含过滤条件。交互式分析性能测试标准为TPC-H测试集,更多...

查询执行模式

云原生数据仓库AnalyticDB MySQL版 数仓版(3.0)支持 Interactive 和 Batch 两种查询模式,结合资源组功能可实现混合负载。背景 云原生数据仓库AnalyticDB MySQL版(简称ADB MySQL版),是阿里巴巴自主研发的海量数据实时高并发在线分析云...

支持的数据

数据入仓 类别 数据源 导入方式 产品系列 文档链接 数据库 RDS MySQL 外表 数仓版(3.0)通过外表导入至数仓版 湖仓版(3.0)通过外表导入至湖仓版 DTS 数仓版(3.0)通过DTS导入数据 湖仓版(3.0)通过DTS导入数据 DataWorks 数仓版(3.0...

使用DTS同步RDS MySQL数据到AnalyticDB MySQL 2.0

本文以RDS MySQL数据源为例,介绍如何通过DTS将RDS MySQL数据实时同步至 AnalyticDB MySQL版 2.0 中。前提条件 根据 RDS MySQL快速入门,准备好测试数据。根据 AnalyticDB MySQL版2.0快速入门 完成数据库创建、表组创建等准备工作。背景...

通过元数据发现导入至湖仓版

目标元数据配置 Schema名称 设置Schema名称,映射到 AnalyticDB MySQL数据库名称(默认每个发现任务会创建一个新的Schema)。数据库名称填写,需要注意如下两点:不能是 AnalyticDB MySQL 中已有的库名。不能与其他元数据任务的库名相同...

品牌升级

分析型数据库MySQL版(ADS)目前已品牌升级至 云原生数据仓库 AnalyticDB MySQL 版。云原生数据仓库 AnalyticDB MySQL 版 是基于湖仓一体架构打造的实时数仓,高度兼容MySQL,支持毫秒级更新,亚秒级查询。无论是数据湖中的非结构化或半...

湖仓版(3.0)计费项

计费公式:存储空间费用=热数据存储费用+冷数据存储费用 冷数据存储空间费用=冷数据存储空间单价×冷数据存储量×时长 热数据存储空间费用=热数据存储空间单价×热数据存储量×时长 查询用量:您可以在 云原生数据仓库AnalyticDB MySQL控制...

申请和释放公网地址

云原生数据仓库AnalyticDB MySQL版 集群支持VPC地址和公网地址两种类型的地址,如果需要通过公网连接集群,您需要先申请公网地址。公网和VPC网络 网络类型 说明 VPC网络 一个VPC就是一个隔离的网络环境。VPC的安全性较高,推荐您使用VPC...

功能特性

PolarDB MySQL数据导入 PolarDB-X数据导入 自建MySQL数据源 AnalyticDB for MySQL支持通过外表将ECS自建MySQL数据库中的数据导入至数仓版集群,同时也支持将数仓版集群中的数据导出至自建的MySQL数据库。自建MySQL数据导入 导出至自建MySQL...

有数BI

您可以在 云原生数据仓库AnalyticDB MySQL控制台 的 集群管理 页面,复制公网地址。端口 3306 用户名 AnalyticDB MySQL版 集群中创建的账号:高权限账号 普通账号 您可以在 云原生数据仓库AnalyticDB MySQL控制台 的 账号管理 页面,查看...

Spark常见报错

例如:同时访问Hive和RDS MySQL数据源,JAR包中应包含Hive数据源和RDS MySQL数据源的JDBC驱动。CommunicationsException.*Communications link failure 报错出现日志:Driver日志。报错原因:Spark作业中配置的弹性网卡无法访问指定的数据...

删除标签

操作步骤 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 数仓版(3.0)页签下,单击目标 集群ID。在 集群信息 页面的 集群属性 区域,单击 编辑标签。单击要删除的标签后...

访问OSS数据

云原生数据仓库AnalyticDB MySQL版 数据库产品 编写Python程序,将Python程序上传至OSS。本文示例的Python程序名为 example.py,用于读取文本文件readme.txt的第一行内容。import sys from pyspark.sql import SparkSession#初始Spark ...

案例三

计算报表需要消耗大量计算资源,双十一大促时,不仅报表生成的速度会很慢,当多人查看时,不时发送大查询数据库也容易导致系统不稳定。业务效果 使用物化视图将近7天的抽检报表数据保存下来,每次查看报表时只需要查询物化视图即可。物化...

DBeaver

您可以通过DBeaver的图形界面查看数据库结构、执行SQL查询和脚本、浏览和导出数据、处理BLOB/CLOB数据以及修改数据库结构等。准备工作 开始使用DBeaver前,您需要完成以下准备工作。安装DBeaver软件。安装MySQL JDBC驱动。将安装了DBeaver...

数据导入优化建议

批量和实时导入如何选择 从MaxCompute或者OSS导入HybridDB for MySQL,推荐使用 INSERT OVERWRITE SELECT 做批量导入:批量导入适合大数据量导入,性能较好。批量导入适合数据仓库语义,即导入过程中旧数据查询,导入完成一键切换新数据...

AnalyticDB MySQL数仓版(3.0)使用流程

云原生数据仓库AnalyticDB MySQL版(简称ADB,原分析型数据库MySQL版)是云端托管的PB级高并发实时数据仓库,是专注于服务OLAP领域的数据仓库。本指南将指引您完成一次 AnalyticDB MySQL版 集群创建及使用。数仓版(3.0)快速入门视频指导 ...

数据传输”导入

源库与目标库 源库的实例类型可以是RDS实例,或者是您自建的MySQL数据库。以RDS实例为例,选择待迁移实例的ID,输入对应的数据库账号及密码。说明 DTS现已支持RDS/MySQL向HybridDB for MySQL的 全量及增量数据同步。目标库选择 PetaData,...

创建资源组

AnalyticDB MySQL 湖仓版(3.0)支持使用XIHE BSP SQL、XIHE MPP SQL、Spark SQL等不同方式进行作业开发。Job型资源组运行XIHE BSP SQL和Spark SQL,Interactive型资源组运行XIHE MPP SQL。开始作业开发前,需要先创建一个Job型和...

续费说明

AnalyticDB MySQL版 控制台手动续费 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 湖仓版(3.0)或 数仓版(3.0)页签中,单击目标集群右侧的 续费。选择购买时长,阅读...

通过外表导入至湖仓版

在 AnalyticDB MySQL 中创建数据库,示例如下:CREATE DATABASE adb_demo;在 AnalyticDB MySQL 中创建表用于存储从MaxCompute中导入的数据,示例如下:说明 新表和步骤3中创建的外表的字段顺序和字段数量需要一致,字段类型兼容。CREATE ...

创建标签

操作步骤 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 数仓版(3.0)页签下,单击目标 集群ID。在 集群信息 页面的 集群属性 区域,单击 编辑标签。在 编辑标签 页面,...

绑定或解绑数据库账号

背景信息 AnalyticDB MySQL版 数仓版(3.0)弹性模式集群版(新版)支持不同数据库账号绑定到不同的资源组,通过资源组隔离实现计算任务的优先级调度,保障核心业务不受复杂计算和突发状况影响,同时将不同的查询分类,合理分配资源使集群...

通过外表导入至数仓版

AnalyticDB for MySQL 支持通过外表读取并导入MaxCompute数据。通过外表导入数据可以最大限度地利用集群资源,实现高性能数据导入。您也可以进一步选择通过Tunnel方式和Storage API两种方式访问并导入MaxCompute数据,相较于Tunnel方式,...

使用Stage和Task详情分析查询

AnalyticDB for MySQL 在前端接入节点接收到查询请求后,会将查询切分成多个Stage,在存储节点(Worker节点)和子任务执行节点(Executor节点)分布式进行数据的读取和计算。部分Stage可以并行执行,但部分Stage之间存在依赖关系,只能串行...

Tableau

本文测试了Tableau与 AnalyticDB MySQL 在列举数据库、查看表表等方面的兼容性,并给出测试结果图。测试环境 MySQL Tableau mysql Ver5.6.46 for osx10.13 on x86_64(Homebrew)Tableau Desktop 2019.4 测试范围 列举数据库 列举所有表 查看...

同步数据

分析型数据库MySQL版支持多种数据加载方式,包括但不限于:通过阿里云数据传输服务DTS将MySQL/DRDS中的数据导入分析型数据库MySQL版,其中MySQL可为RDS for MySQL、其他云厂商或线上IDC的自建MySQL以及ECS自建MySQL。详细操作步骤请参见 ...

访问OSS-HDFS数据

AnalyticDB for MySQL 湖仓版(3.0)Spark支持访问OSS-HDFS数据源,本文介绍如何使用Spark来操作OSS-HDFS数据。前提条件 AnalyticDB MySQL 湖仓版(3.0)集群与OSS存储空间位于相同地域。已在湖仓版(3.0)集群中创建Job型资源组。具体操作...

删除或退订集群

删除按量付费集群 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。根据需要删除的集群版本,选择 数仓版(3.0)或 湖仓版(3.0)页签。单击目标集群右侧的 更多>删除。在 删除...

使用DTS同步数据到AnalyticDB MySQL提示“disk is ...

问题描述 使用DTS同步数据到AnalyticDB MySQL,提示 disk is over flow 的错误。问题原因 AnalyticDB MySQL集群磁盘空间已满,导致DTS同步任务失败。解决方案 阿里云提醒您:如果您对实例或数据有修改、变更等风险操作,务必注意实例的容灾...

应用场景

该场景可实现:在离线一体化 支持数据实时增删改、具备在线分析和ETL计算一体化,实现大数据与数据库的融合。通过资源组隔离让在离线计算任务不相互影响,保证业务稳定运行。计算存储资源弹性 采用计算存储分离架构,计算资源和存储资源按...

绑定或解绑数据库账号

AnalyticDB for MySQL 湖仓版(3.0)集群支持将不同的数据库账号绑定到不同的资源组,实现不同数据库账号查询的资源隔离。绑定资源组后,SQL查询会根据绑定关系路由至对应的资源组执行。本文介绍如何为 湖仓版(3.0)集群的资源组绑定数据...

工作负载管理介绍

而在数据库内部,同时执行的查询之间共享着数据库系统的CPU、内存和磁盘IO等资源,某些分析型的查询如Business Intelligence(BI)消耗着巨大的系统资源,如果对工作负载的执行不加以限制,数据库系统中并发执行的其他查询需要等待它将资源...

FineBI

配置外接数据库MySQL 说明 如果在此之前您已经安装并使用过FineBI,则可跳过如下步骤直接连接 AnalyticDB MySQL版 集群。详细步骤,请参见 连接AnalyticDB。打开FineBI。单击服务器地址,按照系统提示进行 账号设置。单击 下一步,选择数据...

DEADLOCK(死锁)

对于那个通过 HybridDB for MySQL死锁检测的事务,后续的操作与普通事务相同,分布式数据库将向用户返回死锁错误,后续非 rollback 语句将向用户返回仅支持 rollback 错误。若事务中的更新语句一次涉及多个分区,死锁的行存在于两个分区,...

元数据库数据字典

查询test库下的所有表,示例如下:select*from TABLES where table_schema='test' SCHEMATA SCHEMATA表提供了关于数据库的信息。FIELD TYPE ALLOW_NULL DEFAULT COMMENT CATALOG_NAME varchar(16)YES NULL CATALOG名称 SCHEMA_NAME varchar...

湖仓版扩缩容

扩容 登录 云原生数据仓库AnalyticDB MySQL控制台,在页面左上角选择集群所在地域。在左侧导航栏,单击 集群列表,在 湖仓版(3.0)页签下,单击目标集群右侧的 扩容。在 变配 页面,设置 计算预留资源 和 存储预留资源。扩容会增加剩余可...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云原生数据仓库AnalyticDB MySQL版 云数据库 RDS 云数据库专属集群 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用