使用Python3 Kernel运行EMR PySpark

select a,sum(b)from test_table_1 group by a sql 单元格中,可以使用-o 参数,会将执行后的结果以pandas data frame模式传给指定变量,否则直接展示最后一条SQL的执行结果。示例如下。sql-o df#将执行结果传给df变量。select a,sum(b)...

高性能Flink SQL优化技巧

语法 由于SQL上没有直接支持重的语法,还要灵活地保留第一条或保留最后一条。因此我们使用了SQL的ROW_NUMBER OVER WINDOW功能来实现重语法。重本质上是一种特殊的TopN。SELECT*FROM(SELECT*,ROW_NUMBER()OVER(PARTITION BY col1[,col...

COST SQL

计量预估,基于一条SQL作业的输入数据量大小、UDF个数以及SQL复杂等级估算作业执行费用。需要注意的是,如果UDF涉及分区裁剪,由于无法确定最终会扫描多少个分区,该场景下的费用无法预估。使用限制 目前外部表不支持Cost SQL功能。注意...

其它操作

计量预估 基于一条SQL作业的输入数据量大小、UDF个数以及SQL复杂等级估算作业执行费用。需要注意的是,如果UDF涉及分区裁剪,由于无法确定最终会扫描多少个分区,该场景下的费用无法预估。说明 该信息不能作为实际计费标准,仅供参考,实际...

通过控制台使用SQL查询

根据实际需要修改映射表的Schema后,按住鼠标左键拖动选中一条SQL语句并单击 执行SQL(F8)。执行成功后,在 执行结果 区域会显示执行结果。重要 创建映射表时设置的Schema中需要包括后续查询数据所需的列。执行SQL语句时,请选中一条所需SQL...

创建EMR Impala节点

false:表示每次执行一条SQL语句。“DATAWORKS_SESSION_DISABLE”:适用于开发环境直接测试运行场景。取值如下:true:表示每次运行SQL语句都会新建一个JDBC Connection。false:表示用户在一个节点里运行不同的SQL语句时会复用同一个JDBC ...

创建EMR Hive节点

false:表示每次执行一条SQL语句。说明 该参数仅支持用于数据开发环境测试运行流程。“DATAWORKS_SESSION_DISABLE”:适用于开发环境直接测试运行场景。取值如下:true:表示每次运行SQL语句都会新建一个JDBC Connection。false:表示用户...

SQL洞察和审计

挂载到PolarDB-X 1.0(DRDS)的RDS MySQL实例执行一条SQL语句时,由于水平拆分(分库分表)原因,会在RDS MySQL实例上产生多条SQL洞察和审计日志。开启SQL洞察和审计 说明 如果您在日志服务的CloudLens for RDS开启了RDS MySQL实例的审计...

SQL洞察和审计

挂载到PolarDB-X 1.0(DRDS)的RDS MySQL实例执行一条SQL语句时,由于水平拆分(分库分表)原因,会在RDS MySQL实例上产生多条SQL洞察和审计日志。开启SQL洞察和审计 说明 如果您在日志服务的CloudLens for RDS开启了RDS MySQL实例的审计...

使用限制

SQL及脚本的幂等性 说明 SQL脚本幂等性是指一条SQL语句或一组SQL语句,无论执行多少次,其结果都是一致的,不会因为重复执行而导致数据不一致。为保证数据的正确性,建议您在编写SQL及脚本时使用具有幂等性的操作语句,如 insert overwrite...

DescribeSQLDetails-查询 SQL 文本信息

根据 SQLID 查询一条 SQL 的 SQL 文本信息。接口说明 为优化用户体验,云数据库对 SQL 诊断功能进行了升级,本接口已下线并由新的接口替代,详情请参见【通知】云数据库诊断管理 API 接口下线。调试 您可以在OpenAPI Explorer中直接运行该...

创建EMR Spark SQL节点

false:表示每次执行一条SQL语句。说明 该参数仅支持用于数据开发环境测试运行流程。“ENABLE_SPARKSQL_JDBC”:提交SQL代码的方式。取值如下:true:表示采用JDBC的方式提交SQL代码。当EMR集群无Kyuubi服务时,提交SQL代码至Spark Thrift-...

SQL性能问题

语法 由于SQL上没有直接支持重的语法,还要灵活地保留第一条或保留最后一条。因此我们使用了SQL的ROW_NUMBER OVER WINDOW功能来实现重语法。重本质上是一种特殊的TopN。SELECT*FROM(SELECT*,ROW_NUMBER()OVER(PARTITION BY col1[,col...

列存索引常见问题

一般来说,如果一条SQL语句无法使用列存索引进行查询,可以按照以下步骤进行问题排查:确认SQL是否被转发到列存节点。通过 SQL洞察 功能,可以确认SQL是否被转发到了列存节点。如果使用了集群地址并且开启了“行存/列存自动引流”功能,则...

DBMS_SQL

示例 下面的匿名代码块使用绑定变量向表 emp 中插入一条记录。DECLARE curid INTEGER;v_sql VARCHAR2(150):='INSERT INTO emp VALUES '|'(:p_empno,:p_ename,:p_job,:p_mgr,'|':p_hiredate,:p_sal,:p_comm,:p_deptno)';v_empno emp.empno%...

BITWISE_OR_AGG

在同一条SQL语句中同时使用多个聚合函数时,如果项目资源不足,会出现内存溢出问题,请您根据实际业务情况优化SQL或购买计算资源。命令格式 bigint bitwise_or_agg(bigint value)参数说明 value:必填。BIGINT类型的值,NULL值不参与计算。...

BITWISE_AND_AGG

在同一条SQL语句中同时使用多个聚合函数时,如果项目资源不足,会出现内存溢出问题,请您根据实际业务情况优化SQL或购买计算资源。命令格式 bigint bitwise_and_agg(bigint value)参数说明 value:必填。BIGINT类型的值,NULL值不参与计算...

HISTOGRAM

在同一条SQL语句中同时使用多个聚合函数时,如果项目资源不足,会出现内存溢出问题,请您根据实际业务情况优化SQL或购买计算资源。命令格式 map,bigint>histogram(K input);参数说明 input:输入字段,将作为Map的Key。返回值说明 返回构造...

Amazon Redshift数据源

Amazon Redshift数据源为您提供读取和写入Amazon ...目前向导模式仅允许执行一条SQL语句,脚本模式可以支持多条SQL语句,例如加上某一个时间戳。否 无 batchSize 每批次导入的最大数据条数。否 2048 writeMode 目前只支持insert。否 insert

MAP_AGG

在同一条SQL语句中同时使用多个聚合函数时,如果项目资源不足,会出现内存溢出问题,请您根据实际业务情况优化SQL或购买计算资源。命令格式 map,V>map_agg(K a,V b);参数说明 a:输入字段,将作为Map的Key。b:输入字段,将作为Map的value...

配置行列自动分流

您可以通过 SHOW STATUS LIKE 'Last_query_cost' 命令精确查询上一条SQL语句的预估执行代价,从而判断如何调整上表中的参数值。说明 如果使用集群地址连接数据库,您需要在 SHOW STATUS LIKE 'Last_query_cost' 命令前添加 HINT 语法/*...

HTTP API SQL接口开发手册

以Python代码为例,在Python代码中向/api/v2/sql 传送一条SQL语句的示例如下:import requests url="http://ld-xxxx-proxy-tsdb-pub.lindorm.rds.aliyuncs.com:8242/api/v2/sql" payload = """insert into sensor(device_id,region,time,...

MAP_UNION_SUM

在同一条SQL语句中同时使用多个聚合函数时,如果项目资源不足,会出现内存溢出问题,请您根据实际业务情况优化SQL或购买计算资源。命令格式 map,V>map_union_sum(map,V>input);参数说明 input:输入Map。说明 输入Map的Value的类型必须是...

BatchExecuteStatement-批处理SQL语句

array 否 其中一条 SQL 语句的参数说明。SqlParameter 否 参数值,详情请参见 SqlParameter。返回参数 名称 类型 描述 示例值 object 返回参数如下。RequestId string 请求 ID。CDAEE474-87E5-5AE3-A534-922F90D5867D Success boolean 请求...

SQL限流

限流结果 一条SQL匹配到该规则后,根据限流规则中WITH选项里配置的参数,会出现如下几种结果:RUN(可运行)若并发度还未达到最大并发度(即 MAX_CONCURRENCY 参数值),该SQL正常执行不会被限流。WAIT(等待中)若并发度已经达到最大并发...

SQL限流

限流结果 一条SQL匹配到该规则后,根据限流规则中WITH选项里配置的参数,会出现如下几种结果:RUN(可运行)若并发度还未达到最大并发度(即 MAX_CONCURRENCY 参数值没有达到最大值),该SQL正常执行不会被限流。WAIT(等待中)若并发度...

新建存储过程

如存储过程体中只有一条 SQL 语句,则可以省略 BEGIN-END 标志。步骤 5:完成新建存储过程 单击 创建,完成新建存储过程后,可以如同调用系统内置函数一样,使用关键字 CALL 调用用户自定义的存储过程。说明 在左侧导航栏中,右键鼠标单击...

SQL Server数据源

目前向导模式仅允许执行一条SQL语句,脚本模式可以支持多条SQL语句,例如加上某一个时间戳。否 无 writeMode 选择导入模式,可以支持 insert 方式。当主键/唯一性索引冲突时,数据集成视为脏数据但保留原有的数据。否 insert batchSize ...

执行MaxCompute SQL语句

每次调用只能执行一条SQL语句。命令语法 语法示例 select exec_external_sql('server','database','sql',timeout_ms,'options');如上参数必须要按照顺序填写,若是需要省略某些参数,需要显示指定参数名,如下所示:exec_external_sql...

SQL洞察

挂载到 PolarDB-X 1.0(DRDS)的 RDS MySQL 实例执行一条SQL语句时,由于水平拆分(分库分表)原因,会在RDS MySQL实例上产生多条SQL日志。数据库实例的数据迁移会引起闪断,迁移期间SQL洞察丢失部分数据是符合预期的。当数据库实例负载...

通过Spark Distribution SQL Engine开发Spark SQL作业

当您需要实时分析数据或通过JDBC协议开发Spark SQL作业时,可以通过 AnalyticDB for MySQL 的Spark Distribution SQL Engine开发Spark SQL作业。通过Spark Distribution SQL Engine可以更方便地利用SQL分析、处理和查询数据,提升SQL执行...

质量规则参数配置

自定义数据详情校验:总行数SQL:填写总数的统计SQL。例如:select count(*)from tableA where ds=${bizdate};异常行数SQL:填写异常行数的统计SQL。例如:select count(*)from tableA where ds=${bizdate} and age;数据表校验配置说明 ...

质量规则参数配置

自定义数据详情校验:总行数SQL:填写总数的统计SQL。例如:select count(*)from tableA where ds=${bizdate};异常行数SQL:填写异常行数的统计SQL。例如:select count(*)from tableA where ds=${bizdate} and age;数据表校验配置说明 ...

SQL脚本

是否由系统添加Create Table语句 选中 是否由系统添加Create Table语句 复选框,则 SQL脚本 的最后一SQL语句必须为Select语句,PAI会自动创建一个临时表,用来存储Select语句查询的结果。取消选中 是否由系统添加Create Table语句 复选框...

流程控制-AB测试组件

单击 确定,画布上将相应地为每一个分组生成一条空白分支,并最终汇合到“测试目标”节点,如下图所示。按照您的方案设置每一条分支,如下图所示。分支中可以进行对组件的操作,例如添加、复制粘贴、删除组件,但不支持在分支中再增加连线...

为什么SQL语句在ECS上查询比RDS上快

相同的一条简单SQL,在云服务器ECS上的查询时间是有可能比RDS快的,因为它不需要网络传输的时间。但是这样测试并没有体现出RDS的整体性能,RDS在压力和并发大的情况下,它的性能优势会非常明显,具体请参见各产品的性能白皮书。

报警通知合并

当同一个阿里云账号的多个资源在同一报警规则和周期内同时报警时,为减少报警资源的消耗和冗余信息的干扰,云监控在第一条报警通知发出后,以一分钟为周期对后续的报警通知进行合并发送。本文将介绍不同报警规则下的报警通知合并示例。报警...

分组聚合查询优化

例如执行以下的SQL分组聚合语句。SELECT sum(A),max(B)FROM tb1 GROUP BY C,D;上述语句在进行分组聚合时,数据会首先在上游Stage的Node1和Node2节点中执行局部聚合,局部聚合的结果是 partial sum(A)、partial max(B)、C、D。局部聚合的...

如何判断RDS MySQL的审计记录SQL语句是否执行成功

详细信息 SQL审计出现了一条更新语句,但是实际数据没有更新。RDS MySQL的SQL审计是基于网络报文分析所得,并不是执行成功的SQL语句才会记录。如果需要具体的判断更新是否成功,需要查阅Binlog日志。适用于 云数据库 RDS

赋值节点

赋值节点支持ODPS SQL、SHELL和Python三种赋值语言,将节点最后一条查询或输出结果自动赋值给节点自带的输出参数(outputs),便于赋值节点的下游节点引用。您可结合节点上下文配置,参考本文使用赋值节点。注意事项 部分节点可通过节点...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云服务器 ECS 云安全中心 云数据库 RDS 商标服务 轻量应用服务器 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用