Spark开发编辑器

前提条件 已创建 AnalyticDB MySQL 湖仓版(3.0)集群,详情请参见 创建集群。已创建Job型资源组,且计算预留资源需大于等于8 ACU。创建资源组,详情请参见 新建资源组。已为RAM用户授权。具体操作,请参见 为RAM用户授权。已将RAM用户(子...

支持的数据

数据入仓 类别 数据源 导入方式 产品系列 文档链接 数据库 RDS MySQL 外表 数仓版(3.0)通过外表导入至数仓版 湖仓版(3.0)通过外表导入至湖仓版 DTS 数仓版(3.0)通过DTS导入数据 湖仓版(3.0)通过DTS导入数据 DataWorks 数仓版(3.0...

通过Spark SQL读写Hudi外表

创建外表时选择的OSS路径需比创建数据库时选择的OSS路径至少多一层目录,且外表的路径需在数据库路径下。建表时必须定义primaryKey主键。preCombineField预聚合字段为可选,如未定义preCombineField在UPDATE场景会报错。步骤三:写入Hudi...

设置白名单

为保障 云原生数据仓库 AnalyticDB MySQL 版 集群的安全稳定,系统默认禁止所有地址访问 AnalyticDB for MySQL 集群,因此,在使用 AnalyticDB for MySQL 集群前,需为集群设置白名单,以允许外部设备访问该集群。背景信息 集群默认的白...

申请和释放公网地址

云原生数据仓库AnalyticDB MySQL版 集群支持VPC地址和公网地址两种类型的地址,如果需要通过公网连接集群,您需要先申请公网地址。公网和VPC网络 网络类型 说明 VPC网络 一个VPC就是一个隔离的网络环境。VPC的安全性较高,推荐您使用VPC...

表结构优化

要做好库表结构设计和优化,用户通常需要关注以下信息:数据库引擎架构 用户需要了解数据库引擎的存储和计算架构特点,才能结合业务的数据分布特征与业务场景特征,进行数据建模,从而设计出符合引擎架构特点的数据表结构。SQL特征差异 ...

管理运维事件

配置周期时间 周期时间对 AnalyticDB MySQL 数仓版(3.0)所有集群生效,不影响其他数据库产品运维事件的切换时间。配置周期时间后,会在指定周期时间点,对计划内所有未执行且未设置计划切换时间的事件执行切换。例如配置周期时间为周二00...

存储空间分析

指标 说明 数据库 数据库名称。表名 表名称。空间占比 表数据量占集群总数据量的比例。计算方法:空间占比=(表的总数据量/集群总数据量)*100%。总数据量 表的总数据量。计算方法如下:方法一:总数据量=热数据量+冷数据量。方法二:总数据...

有数BI

您可以在 云原生数据仓库AnalyticDB MySQL控制台 的 集群管理 页面,复制公网地址。端口 3306 用户名 AnalyticDB MySQL版 集群中创建的账号:高权限账号 普通账号 您可以在 云原生数据仓库AnalyticDB MySQL控制台 的 账号管理 页面,查看...

通过Spark SQL读写OSS外表

创建外表时选择的OSS路径需比创建数据库时选择的OSS路径至少多一层目录,且外表的路径需在数据库路径下。可以在tblproperties中配置 'auto.create.location'='true' 自动创建OSS路径。如果未指定该参数并且OSS中不存在该路径,请先创建对应...

导入与导出

由于 AnalyticDB MySQL 中不允许数据库名、表名或者列名中含有划线(-),为保证数据同步成功,系统会将中划线(-)映射为下划线(_)。如果在数据同步过程中遇到其他因数据库名、表名或者列名造成的同步失败(例如表名中含有空格、中文等...

设置白名单

为保障 云原生数据仓库 AnalyticDB MySQL 版 集群的安全稳定,系统默认禁止所有地址访问 AnalyticDB for MySQL 集群,因此,在使用 AnalyticDB for MySQL 集群前,需为集群设置白名单,以允许外部设备访问该集群。背景信息 集群默认的白...

概述

创建PolarDB for MySQL数据库集群 设置集群白名单 创建数据库账号 创建数据库 连接数据库 创建数据表 本示例在-PolarDB中创建 test_ads 数据库和 login_info 表,login_info 表存储5条数据。CREATE TABLE `login_info`(`id` int(11)NOT ...

删除标签

操作步骤 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 数仓版(3.0)页签下,单击目标 集群ID。在 集群信息 页面的 集群属性 区域,单击 编辑标签。单击要删除的标签后...

访问OSS数据

云原生数据仓库AnalyticDB MySQL版 数据库产品 编写Python程序,将Python程序上传至OSS。本文示例的Python程序名为 example.py,用于读取文本文件readme.txt的第一行内容。import sys from pyspark.sql import SparkSession#初始Spark ...

Spark

本文汇总了使用 AnalyticDB MySQL Spark的常见问题及解决方案。常见问题概览 如何查看Spark应用信息?如何解决提交Spark应用时,出现User%s do not have right permission[*]to resource[*]报错?如何解决运行Spark应用时,出现No space ...

通过Spark SQL访问MySQL数据

AnalyticDB MySQL 湖仓版(3.0)支持提交Spark SQL作业,您可以通过View或Catalog两种方式访问自建MySQL数据库或云数据库RDS MySQL、云原生数据库 PolarDB MySQL。本文以RDS MySQL为例,介绍如何通过Spark SQL访问RDS MySQL数据。前提条件 ...

功能概览(本地数据库

本文介绍 云备份 本地数据库备份功能概览,包括本地数据库备份的优势、工作原理、操作流程和费用、支持数据库版本等。简介 本地数据库备份功能是阿里云 云备份 提供的针对客户本地机房中自建数据库的数据保护方案。HBR通过简单、安全及可靠...

权限管理

user[auth_option][,[if not exists]user[auth_option]].auth_option:{ IDENTIFIED BY 'auth_string'|IDENTIFIED BY PASSWORD 'hash_string' } MySQL CREATE USER命令文档:https://dev.mysql.com/doc/refman/5.6/en/create-user.html相较...

通过Logstash写入数据到AnalyticDB MySQL 2.0

以日志数据为例,可以通过开源logstash output插件 logstash-output-jdbc 将log数据导入分析型数据库MySQL版中进行进一步分析(分析型数据库MySQL版支持原生JDBC方式访问)。但经过测试发现,在日志量非常大的情况下,通过jdbc方式写入分析...

通过Spark SQL读写Delta外表

如果已有数据库,可跳过本步骤。CREATE DATABASE if not exists external_delta_db location"oss:/<bucket_name>/test/;用于在该路径中创建表,请替换为自己的OSS路径。执行以下语句,创建Delta外表。CREATE TABLE if not exists external_...

通过外表导入至湖仓版

示例数据说明 本文示例的RDS MySQL数据库名为 test_adb,并在该库中创建了一张名为 person 的表,示例如下:CREATE TABLE IF NOT EXISTS test_adb.person(id int,name varchar(1023),age int);向 person 表中插入数据,示例如下:INSERT ...

续费说明

AnalyticDB MySQL版 控制台手动续费 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 湖仓版(3.0)或 数仓版(3.0)页签中,单击目标集群右侧的 续费。选择购买时长,阅读...

创建资源组

AnalyticDB MySQL 湖仓版(3.0)支持使用XIHE BSP SQL、XIHE MPP SQL、Spark SQL等不同方式进行作业开发。Job型资源组运行XIHE BSP SQL和Spark SQL,Interactive型资源组运行XIHE MPP SQL。开始作业开发前,需要先创建一个Job型和...

创建标签

操作步骤 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 数仓版(3.0)页签下,单击目标 集群ID。在 集群信息 页面的 集群属性 区域,单击 编辑标签。在 编辑标签 页面,...

客如云精准营销方案

方案解读:将原系统中分散使用Hive、HBase、kylin、TiDB处理的各类分析业务集中更换为 分析型数据库MySQL(AnalyticDB MySQL)中,确保实时输出分析报表。将业务库数据实时同步到 AnalyticDB MySQL 中,商户运营报表每5分钟更新一次。通过 ...

Power BI

在 Server 和 Database 中分别填写 AnalyticDB MySQL版 的连接地址和数据库名称,然后单击 OK。在 User Name 和 Password 中分别填写 AnalyticDB MySQL版 的数据库账号和密码,然后单击 Connect。系统弹出 Encryption Support 提示框,单击...

连接

本文介绍 AnalyticDB MySQL 中连接的常见问题及解决方法。说明 当常见问题场景中未明确产品系列时,表明该问题仅适用于 AnalyticDB MySQL 数仓版(3.0)。常见问题概览 如何解决白名单设置问题导致的连接失败?当查询过程中关闭了JDBC连接...

作业投递

AnalyticDB MySQL 数仓版(3.0)的作业投递功能支持将资源组中满足一定条件的查询作业(通常为资源消耗大、耗时久的大查询)投递至指定一资源组中,避免影响资源组中其他查询作业。本文介绍如何开启并使用作业投递功能。前提条件 ...

访问OSS-HDFS数据

AnalyticDB for MySQL 湖仓版(3.0)Spark支持访问OSS-HDFS数据源,本文介绍如何使用Spark来操作OSS-HDFS数据。前提条件 AnalyticDB MySQL 湖仓版(3.0)集群与OSS存储空间位于相同地域。已在湖仓版(3.0)集群中创建Job型资源组。具体操作...

删除或退订集群

删除按量付费集群 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。根据需要删除的集群版本,选择 数仓版(3.0)或 湖仓版(3.0)页签。单击目标集群右侧的 更多>删除。在 删除...

同步数据

分析型数据库MySQL版支持多种数据加载方式,包括但不限于:通过阿里云数据传输服务DTS将MySQL/DRDS中的数据导入分析型数据库MySQL版,其中MySQL可为RDS for MySQL、其他云厂商或线上IDC的自建MySQL以及ECS自建MySQL。详细操作步骤请参见 ...

数据迁移方案概览

“数据传输”导入 事务引擎/分析引擎 使用数据传输(Data Transmission Service)将自建MySQL数据库或者RDS for MySQL数据库迁移到HybridDB for MySQL中。从MySQL批量导入导出 分析引擎 HybridDB for MySQL支持从自建MySQL中全量导入和导出...

查看资源弹性计划执行日志

操作步骤 登录 云原生数据仓库AnalyticDB MySQL控制台。在页面左上角,选择集群所在地域。在左侧导航栏,单击 集群列表。在 数仓版(3.0)或 湖仓版(3.0)页签下,单击目标集群ID。数仓版(3.0)集群,在左侧导航栏,单击 资源弹性扩容。...

使用DTS同步RDS MySQL数据到AnalyticDB MySQL 2.0

本文以RDS MySQL数据源为例,介绍如何通过DTS将RDS MySQL数据实时同步至 AnalyticDB MySQL版 2.0 中。前提条件 根据 RDS MySQL快速入门,准备好测试数据。根据 AnalyticDB MySQL版2.0快速入门 完成数据库创建、表组创建等准备工作。背景...

调优集群性能

语义错误 SQL符合 云原生数据仓库 AnalyticDB MySQL 版 官方对SQL语法的定义,但在语义检查时,发现数据库对象错误,在语义分析阶段报错。例如,表名错误、列不存在、GROUP BY字段缺失、函数参数类型错误等。集群内部问题导致查询失败 查询...

创建湖仓版集群

重要 如果您同时在使用阿里云上的其他云服务,例如云服务器ECS、云数据库RDS等,请确保AnalyticDB MySQL与其他云服务位于同一个VPC,否则它们无法通过内网互通,无法发挥最佳性能。计算预留资源 计算预留资源用于数据计算。增加计算资源...

Hive数据导入

前提条件 已创建 AnalyticDB MySQL 湖仓版(3.0)集群。具体操作,请参见 创建湖仓版(3.0)集群。已创建Job型资源组。具体操作,请参见 新建资源组。已创建数据库账号。如果您是通过阿里云账号访问,只需创建高权限账号。具体操作,请参见...

SQL Pattern

同时,SQL Pattern的聚合结果能作为数据库优化的有效依据。针对导致实例压力过大的Bad SQL,用户还可以通过拦截功能,对其进行拦截,快速恢复实例,详情请参见 Persist plan and Query-Blocker。功能说明 SQL Pattern具备以下功能。Pattern...

通过数据同步功能同步Kafka至湖仓版(推荐)

目标库表配置 参数说明如下:参数名称 参数说明 库名 同步到 AnalyticDB MySQL数据库名称。如果不存在同名数据库,将新建库;如果已存在同名数据库,数据会同步到已存在的数据库中。库名命名规则,详见 使用限制。表名 同步到 ...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云原生数据仓库AnalyticDB MySQL版 云数据库 RDS 弹性公网IP 短信服务 人工智能平台 PAI 金融分布式架构
新人特惠 爆款特惠 最新活动 免费试用