Spark SQL、Dataset和DataFrame基础操作

Spark SQL基础操作 Spark SQL支持直接通过SQL语句操作数据,而Spark会将SQL进行解析、优化并执行。以下示例展示了如何使用Spark SQL进行读取文件。示例如下:示例1:Spark支持多种数据格式,本示例读取了JSON格式文件的数据,并输出为...

配置跨库Spark SQL节点

name,trade_date,COUNT(*)cnt,SUM(amt)amt FROM mysql_db.sales t1 JOIN oracle_db.users t2 ON t1.emp_id=t2.id WHERE t1.trade_date=${bizdate} GROUP BY t2.dept_name 功能特性 跨库数据处理:支持使用SQL语句操作不同数据库中的数据,...

PyMySQL 连接 OceanBase 数据库示例程序

test_sql.py 代码介绍 本文获取的 test_sql.py 文件中的代码定义了数据操作SQL 语句,包括创建表、插入数据、查询数据和删除表,这些 SQL 语句可以通过 PyMySQL 连接数据库后执行,以实现相应的功能。该文件中的代码主要包括以下几个...

SQL闪回

获取误操作SQL数据中的 sql_time、table_name、sql_type 和 trace_id 字段。精确匹配与模糊匹配 SQL闪回根据您提供的误操作SQL信息,在Binlog中查找对应的匹配事件,反向生成对应的恢复SQL。受实例版本、参数设置的影响,SQL闪回支持两种...

SQL闪回

获取误操作SQL数据中的 sql_time、table_name、sql_type 和 trace_id 字段。开启精确匹配 前提条件:您的 PolarDB-X 1.0 实例版本需为5.3.4-15378085及以上,如果低于该版本,建议升级后开启。登录 PolarDB分布式版控制台,前往指定实例的...

自定义 HINT

HINT 使用基本语法:/*+DBP:hint 语句*/SQL 语句 数据访问代理自定义 HINT 基于 MySQL 注释 实现,其 HINT 语句会位于/*与*/之间,并且必须以+DBP:开头,用以识别为数据访问代理的 HINT 语法。HINT 语句是数据访问代理的 HINT 命令,目前仅...

查看系统审计到的语句

数据库接入数据库审计系统后,您可以通过云盾数据库审计系统,查看系统审计到的SQL语句。本文为您介绍如何查看数据库审计系统审计到的SQL语句操作步骤 登录 云盾数据库审计管理控制台。在左侧导航栏,单击 A100实例。在 A100实例 页面...

超级SQL模式

开启超级SQL模式后,管理员和DBA在SQL Console中执行SQL语句,将不受安全规则的限制。例如禁止在SQL Console中执行DELETE语句、禁止在SQL Console中执行CREATE_INDEX语句等安全规则限制。前提条件 系统角色为管理员或DBA,关于用户角色信息...

C3P0 连接池连接 OceanBase 数据库示例程序

本文将介绍如何使用 C3P0 连接池、MySQL Connector/J 和 OceanBase 数据库构建一个应用程序,实现基本的数据操作,包括创建表、插入、删除、更新和查询数据等。点击下载 c3p0-mysql-jdbc 示例工程 前提条件 您已安装 OceanBase 数据库...

MySQL数据

MySQL数据源为您提供读取和写入MySQL的双向通道,本文为您介绍DataWorks的MySQL数据同步的能力支持情况。支持的MySQL版本 离线读写:支持MySQL 5.5.x、MySQL 5.6.x、MySQL 5.7.x、MySQL 8.0.x,兼容 Amazon RDS for MySQL、Azure MySQL。离...

诊断SQL语句

您可以数据管理DMS的SQL窗口诊断SQL语句并查看SQL语句优化建议。操作步骤 登录 数据管理DMS 5.0。在顶部菜单栏中,选择 SQL窗口>SQL窗口。在 请先选择数据库 弹框中,搜索并选择数据库,单击 确认。在命令执行区域,输入需要诊断的SQL语句...

开启会话与事务

它代表了一段时间内的交互会话,包括建立连接、执行SQL语句操作。前提条件 数据库的类型为 RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL版、云数据库OceanBase MySQL模式 或 RDS PostgreSQL。实例具有自由操作或稳定变更能力。注意事项...

RDS MySQL同步至函数计算FC

支持同步的SQL操作 操作类型 SQL操作语句 DML INSERT、UPDATE、DELETE DDL CREATE TABLE、ALTER TABLE、DROP TABLE、RENAME TABLE、TRUNCATE TABLE CREATE VIEW、ALTER VIEW、DROP VIEW CREATE PROCEDURE、ALTER PROCEDURE、DROP PROCEDURE...

创建压测场景

当您想要优化SQL时,直接修改代码中的SQL语句或者执行其他数据操作将会非常复杂且耗时。而通过JDBC压测,无需您直接侵入代码操作,能够集中精力调优SQL。功能入口 登录 PTS控制台,在左侧导航栏选择 性能测试>创建场景,然后单击 JDBC压...

SQL调用分析

本文说明如何查看SQL...可选:在SQL语句列表,您可以执行以下操作:在SQL语句操作 列,单击 调用统计,查看该SQL语句SQL调用时序曲线。在SQL语句操作 列,单击 调用链查询,查看该SQL语句调用链详情。更多信息,请参见 调用链查询。

SQL调用分析

可选:在SQL语句列表,您可以执行以下操作:在SQL语句操作 列,单击 调用统计,查看该SQL语句SQL调用时序曲线。在SQL语句操作 列,单击 接口快照,查看该SQL语句调用的接口的快照。接口快照说明,请参见 功能说明。

执行分析

如上图所示,选中 SQL 语句并单击执行计划图标,可以在执行 SQL 语句前系统预估执行数据(EXPLAINPLAN 操作的结果),展示的执行数据可能与实际执行语句后的数据略有不同。在 计划详情 页面中,单击 查看格式化信息 切换至格式化展示页面。...

SpringJDBC 连接 OceanBase 数据库

定义插入数据的 SQL 语句SQL 语句中指定了要插入的表为 test_springjdbc,列为 id 和 name,插入了两行数据,分别是(1,'A1')、(2,'A2')和(3,'A3')。执行插入数据的 SQL 语句,jdbcTemplate 对象通过调用 update 方法,执行了上述定义的...

Concurrency Control

为了应对突发的数据库请求流量、资源消耗过高的SQL语句以及SQL语句访问模型变化问题,保证 PolarDB 集群持续稳定运行,阿里云提供了基于SQL语句的并发控制Concurrency Control(简称CCL)规则,并提供了工具包 DBMS_CCL 便于您快捷地使用该...

概述

无 循环SQL 可循环生成SQL语句,再将其分批提交给DMS管理的任意关系型数据库执行,同时,还可以搭配变量,控制SQL循环次数,达到简化SQL循环逻辑、平衡SQL语句对源库产生压力的目的。配置循环SQL节点 跨库Spark SQL 基于Spark引擎,实现大...

任务编排

本文介绍如何使用 数据管理DMS 任务编排的单实例SQL节点,将源表中6个月前的数据(历史数据)迁移(归档)至目标表中,并删除源表中已...具体操作,请参见 使用SQL语句查询数据。相关文档 任务编排概述 基本概念 变量概述 发布或下线任务流

数据探索简介

您可以在此区域查看元数据表的基础信息,或者生成数据预览SQL语句。在右侧SQL编辑器区域,输入SQL语句。本功能基于EMR Spark 2.4版本,更多特性详情请参见 Spark SQL Guide。示例如下:SQL语句示例 show databases;点击 运行(或快捷键F8)...

使用前须知

DML(Data Manipulation Language)操作:SQL操作语句,包括SELECT、INSERT、UPDATE、DELETE等。其他SQL执行操作,包括任何其他通过SQL执行的控制,例如回滚、控制等。SQL执行的延迟、执行结果、影响的行数等信息。资产详情 自定义的日志...

案例一:搭建以图搜图系统

搭建流程 创建图片数据存储表 创建图片数据存储表的SQL语句如下:CREATE TABLE image(id bigint(20)comment '主键id',image_address varchar(255)comment '图片存储地址',type int(8)comment '图片类型',primary key(id));其中,image_...

案例二:搭建文档检索系统

搭建流程 创建文档数据表 创建文档数据表的SQL语句如下:CREATE TABLE enterprise_context(id bigint(20)NOT NULL AUTO_INCREMENT COMMENT '主键id',content text DEFAULT NULL COMMENT '内容',PRIMARY KEY(id))ENGINE=InnoDB COMMENT='...

使用须知

本文介绍使用Lindorm计算引擎SQL语句访问数据库的数据时,需要提前了解的相关内容。了解开源Spark SQL 通过开源Spark SQL访问数据库的数据分为以下三个级别:Catalog:用来标识用户不同的数据源。Namespace:与数据库中的Database或者...

导出数据

本文将为您介绍如何导出表结构、SQL查询结果集、整个数据库。前提条件 数据库关联的安全规则已开启 结果集是否支持导出 规则(系统默认开启)。更多信息,请参见 SQL窗口-关系型数据库。具有目标数据库的查询、导出等权限。更多信息,请...

公共节点

Hive Hive节点通过类SQL语句协助读写、管理存储在分布式存储系统上的大数据集的数据仓库,完成海量日志数据的分析和开发工作,具体操作,请参见 新建Hive类型的公共节点。Hologres Hologres节点运行于Hologres云计算资源之上,您可使用标准...

RDS SQL Server同步至DataHub

支持同步的SQL操作 操作类型 SQL操作语句 DML INSERT、UPDATE、DELETE 数据库账号的权限要求 数据库 所需权限 账号创建及授权方法 RDS SQL Server 实例 待同步对象的所有者权限。创建普通账号和高权限账号 和 修改账号权限。操作步骤 进入...

Druid 连接池连接 OceanBase 数据库示例程序

本文将介绍如何使用 Druid 连接池、MySQL Connector/J 和 OceanBase 数据库构建一个应用程序,实现基本的数据操作,包括创建表、插入数据、更新数据、删除数据、查询数据和删除表等。点击下载 druid-mysql-client 示例工程 前提条件 您已...

基础数据类型

Lindorm支持通过简单的SQL语句完成数据的查询、分析和管理。为了更好地处理数据,在创建表前,您需要了解Lindorm SQL支持的基础数据类型及相关使用限制。适用引擎 基础数据类型适用于宽表引擎和时序引擎。基础数据类型 数据类型 宽表引擎 ...

SQL窗口介绍

数据管理DMS的SQL窗口可以非常便捷地执行各类SQL语句,同时支持以可视化的方式对目标数据库进行增、删、改、查等操作,适用于数据查询、数据开发等场景。前提条件 已具备目标库或表的查询权限。申请权限,请参见 权限管理。SQL窗口界面介绍...

通过WebShell登录SQL Server主机并使用SSRS报表服务

您可以在登录主机后使用SSRS(SQL Server Reporting Services)服务管理和操作SQL Server数据库。背景信息 RDS SQL Server提供了WebShell功能,允许用户通过Web界面登录到RDS SQL Server实例的操作系统中,并在该操作系统中执行命令、上传...

步骤一:创建SQL分析任务

本文介绍创建SQL分析任务的操作流程,以及SQL分析工作台的查询对象、SQL语句编写区域和操作栏的功能。前提条件 已购买物联网平台的企业版实例,具体操作,请参见 购买企业版实例。背景信息 您可以使用SQL分析工作台,配置SQL分析任务。更多...

创建数据库并写入数据

操作步骤 执行 CREATE DATABASE 语句创建数据库。CREATE DATABASE test_db;在 test_db 数据库中创建表 test_table,语句如下。USE test_db;create table test_table(k1 TINYINT,k2 DECIMAL(10,2)DEFAULT"10.05",k3 CHAR(10)COMMENT"string ...

RDS MySQL如何使用Percona Toolkit

归档到操作系统文件 登录数据库,执行如下SQL语句,确认源表数据的行数。select count(*)from my_tab;系统显示类似如下。登录服务器,执行如下命令,归档到操作系统文件。pt-archiver-source h=xxx.mysql.rds.aliyuncs.com,P=3306,u=jacky,...

日志备份时报:The transaction log for database xx ...

RDS SQL Server数据库实例进行日志备份时,出现 The transaction log for database xx is full due to 'LOG_BACKUP' 事务日志已满的报错,您可以参照本文进行操作,解决报错问题。问题现象 RDS SQL Server数据库实例进行日志备份时,报 The...

配置安全规则

操作 数据操作 配置DDL、DML、DCL等匹配规则。指定对象操作 对象 配置当前规则生效的对象。未设置对象时,该规则的默认生效范围为已开启审计的所有数据库资产。单击 添加 完成生生效对象相应配置。设置对象后,该规则只对已设置的对象生效...

Cost-based SQL诊断引擎

解决方案 SQL诊断优化服务是阿里云数据库自治服务DAS中最为核心的服务之一,它以SQL语句作为输入,由DAS完成诊断分析并提供专家优化建议(包括索引建议、语句优化建议以及预期收益等信息),用户不必精通数据库优化领域专家知识,即可获得...

USE

切换后所有的SQL操作都将在目标数据库中执行。引擎与版本 USE语法适用于宽表引擎和时序引擎。无版本限制。语法 use_statement:=USE { database_identifier|DEFAULT } 使用说明 使用USE语法切换数据库后,后续所有的SQL操作(例如创建表、...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 数据库备份 DBS 数据传输服务 云数据库 Redis 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用