高性能Flink SQL优化技巧

本文将从作业配置和Flink SQL优化两方面为您介绍如何提升Flink SQL作业性能。作业配置优化推荐方案 资源优化技巧 VVP中限制了JobManager和TaskManager的CPU的实际使用大小,配置了多少个CPU,最大就只能使用多少个CPU。因此在资源优化时,...

如何使用AutoPilot对作业进行自动调优

相关文档 作业调试 配置自动调优 高性能Flink SQL优化技巧

查看作业性能

您可以查看运行中作业的性能,包括Job Manager与运行Task Managers的CPU、内存和线程的使用情况,这可以协助您定位代码问题,例如作业代码...通过作业配置和Flink SQL优化两方面提升Flink SQL作业性能,详情请参见 高性能Flink SQL优化技巧

迁移方案

本文为您介绍将自建开源Flink集群的流式作业(包含Table API、SQL和Datastream)迁移至阿里云实时计算Flink全托管的迁移优势、迁移方案和相关文档。...相关文档 使用限制 高性能Flink SQL优化技巧 配置自动调优 配置作业部署信息

2023-08-21版本

高性能Flink SQL优化技巧 新增OceanBase连接器 支持作为结果表和维表使用。OceanBase(公测中)SLS连接器支持查询下推 支持在源端进行数据过滤,提升读取效率。日志服务SLS SLS Catalog支持结果表 支持使用Catalog进行SLS的写入。管理SLS ...

自定义聚合函数(UDAF)

说明 MiniBatch优化详情,请参见 高性能Flink SQL优化技巧。在下载文件中 pom.xml 所在目录执行如下打包命令。mvn package-Dcheckstyle.skip \ASI_UDX-main\target\ 目录下会出现 ASI_UDX-1.0-SNAPSHOT.jar 的JAR包,即代表完成了UDAF开发...

2022-09-19版本

详情请参见 高性能Flink SQL优化技巧 和 企业级状态后端存储配置。优化作业启动速度,平均作业启动速度提升15%。缺陷修复 修复作业修改时间异常更新的问题。修复部分作业暂停重启后State无法判断的问题。修复金融云无法本地上传JAR的问题。...

配置作业资源

相关文档 资源优化技巧,详情请参见 高性能Flink SQL优化技巧。如果不想手动调节资源,可以使用自动调优,系统会自动完成资源调节,详情请参见 配置自动调优。作业的基础配置、运行参数配置和日志配置,详情请参见 配置作业部署信息。您...

配置自动调优

Flink作业支持智能调优和定时调优两种自动调优模式。本文为您介绍如何配置智能调优和定时调优,以及配置过程中的注意事项。...通过作业配置和Flink SQL优化两方面提升Flink SQL作业性能,详情请参见 高性能Flink SQL优化技巧

企业级状态后端存储配置

详情请参见 高性能Flink SQL优化技巧。state.backend.gemini.kv.separate.value.size.threshold 在启用KV分离后,触发KV分离的Value大小阈值。Integer 200 在达到该阈值后的Record会将Key和Value分离存储。建议取值范围为150~1000,可以...

基本概念

本文汇总使用实时计算Flink版过程中涉及的基本概念,方便您查询和了解相关概念。层次结构 您可以了解实时计算Flink版产品基本概念的层次结构,为后期作业开发、作业部署、作业运维和安全管理等操作提供思路。实时计算Flink版产品基本概念的...

Terraform

实时计算Flink版支持接入Terraform,您可以基于Terraform平台使用和管理Flink资源。背景信息 基本功能 Terraform是一种基础设施即代码(Infrastructure as Code)工具,可以通过编写简洁的代码来定义和配置云端基础设施,而不必手动操作和...

实时计算Flink版行业案例

相关文档 什么是阿里云实时计算Flink版 应用场景 开通Flink全托管

实时计算Flink版应用场景

相关文档 什么是阿里云实时计算Flink版 应用场景 开通Flink全托管

什么是阿里云实时计算Flink版

相关文档 什么是阿里云实时计算Flink版

实时计算Flink版技术原理

相关文档 什么是阿里云实时计算Flink版 功能与优势 基本概念 开通Flink全托管

实时计算Flink版技术场景

相关文档 什么是阿里云实时计算Flink版 功能与优势 应用场景 开通Flink全托管

基于Flink实时大数据应用Demo

相关文档 什么是阿里云实时计算Flink版 应用场景 实时数仓Hologres使用流程

应用场景

本文将以部门场景和技术领域场景为例,为您介绍实时计算Flink版的大数据是实时化场景。说明 更多场景案例请参见 阿里云实时计算Flink版产品案例和解决方案汇总。背景信息 作为流式计算引擎,Flink可以广泛应用于实时数据处理领域,例如ECS...

产品形态

在您购买实时计算Flink版服务前,需要先了解实时计算Flink版的产品形态及特点,再根据业务选择合适的实例。本文为您介绍实时计算Flink版的产品形态区别、发布状态及选型建议。形态区别 产品形态 部署形态 计算引擎 开发平台 Flink全托管 ...

SLB替换方案上线

为了给您提供更好的体验和节约成本,2023年9月8日起实时计算Flink版SLB替换方案分地域逐步上线,预计9月11日全地域完成替换。该替换方案旨在提供更高效的网络连接,以取代原先的负载均衡SLB服务。您新购实时计算Flink版时,无需再单独开通...

2022年及之前公告

本文为您介绍实时计算Flink版2022年及之前产品公告,包括平台升级、API版本升级等。2022年9月19日,API版本升级公告 2022年9月19日,我们对实时计算Flink版API版本进行了升级。后续将默认使用新的API版本(V2版本)为您服务。相较于V1版本...

权限管理

权限概述 实时计算Flink版支持阿里云账号、RAM用户、RAM角色、资源目录成员方式登录并访问实时计算控制台,以及进行作业开发和运维。无论您采用何种方式登录(阿里云账号访问自己所拥有的资源除外),均需要具有相应的权限才能正常进行操作...

使用限制

本文介绍实时计算Flink版产品在资源数、性能、项目空间数量或JAR包数量等方面的限制,请您评估以下限制对您业务的影响并做出相应的调整。使用限制 浏览器:仅支持通过Chrome内核的浏览器访问阿里云实时计算Flink版控制台。地域及可用区:...

Flink SQL简介

相关文档 Flink SQL概述 Flink SQL作业快速入门

授权信息

本文为您介绍 实时计算 Flink版(RealtimeCompute)为RAM权限策略定义的操作(Action)、资源(Resource)和条件(Condition)。实时计算 Flink版(RealtimeCompute)的RAM代码(RamCode)为 stream,支持的授权粒度为 RESOURCE。权限策略...

授权信息

本文为您介绍 实时计算 Flink版(RealtimeCompute)为RAM权限策略定义的操作(Action)、资源(Resource)和条件(Condition)。实时计算 Flink版(RealtimeCompute)的RAM代码(RamCode)为 stream,支持的授权粒度为 RESOURCE。权限策略...

本地运行和调试包含连接器的作业

本文为您介绍如何在开发者本地环境中运行和调试包含阿里云实时计算Flink版连接器的作业,以便快速验证代码的正确性,快速定位和解决问题,并节省云上成本。背景信息 当您在Inteillij IDEA中运行和调试Flink作业,如果其包含了阿里云实时...

查看账单

您可以在阿里云用户中心查看实时计算Flink版的费用情况。操作步骤 登录 阿里云控制台。在顶部菜单栏单击 费用,进入用户中心。在左侧导航栏,选择 账单管理>账单详情。根据需要查看消费情况或导出账单。您可以 在 明细账单 页签,消费类型 ...

管理自定义Catalog

说明 支持使用其他服务的HTTP路径,需要该服务和实时计算Flink版在同一VPC下或者先打通实时计算Flink版和目标服务的公网网络链接后使用公网地址。详情请参见 Flink全托管集群如何访问公网?单击 下一步。确认Properties信息后,单击 确定。...

复杂事件处理(CEP)语句

背景信息 相较于Apache Flink的CEP SQL实时计算Flink版在其基础上进行了增强。例如,支持输出超时匹配、支持松散连接(followedBy)、支持指定事件之间的连续性等。关于Apache Flink CEP SQL的基本能力,详情请参见 Pattern Recognition...

Flink SQL上手示例

相关文档 Flink SQL作业快速入门 数据库实时入仓快速入门

2023-12-07版本

管理资源队列 任务编排(公测)通过可视化的操作界面轻松地编排批作业运行的顺序,调度批作业任务的运行,高效构建数据仓库,在实时计算Flink版平台实现开发、调度、部署和运维一体化。任务编排(公测)查询脚本 可以在查询脚本中通过DDL、...

修改虚拟交换机

如果您重新规划了IPv4网段或遇到作业启动...实时计算Flink版默认不具备访问公网的能力,但通过在VPC中创建NAT网关,并创建SNAT条目,将Flink所在的交换机绑定至弹性公网IP(EIP),即可通过EIP访问公网,详情请参见 Flink全托管如何访问公网?

监控服务ARMS Prometheus计费模式变更

自2023年12月8日起,实时计算Flink版对接ARMS Prometheus新版计费模式,可观测监控Prometheus版专家版的计费模式变更为按写入的可观测数据量收费。变更优势 相比旧版计费模式,费用预估可节省55%以上。新版计费模式下费用节省情况请参见 ...

实时计算Flink版产品公告

【计费变更】实时计算Flink版监控服务ARMS Prometheus上线新版计费模式 自2023年12月8日起,实时计算Flink版对接ARMS Prometheus新版计费模式,可观测监控Prometheus版专家版的计费模式变更为按写入的可观测数据量收费,相比旧版计费预估可...

查看与修改作业运行状态

前提条件 其他阿里云账号或RAM用户共同使用实时计算Flink版产品时,需要为阿里云账号或RAM用户授权,以进行查看与修改作业运行状态等相关操作,详情请参见 作业操作账号授权。查看作业运行状态 登录 实时计算控制台。在 Flink全托管 页签,...

废弃或恢复监控指标

如果您不需要实时计算Flink版监控告警功能或某些监控指标,您可以关闭对应工作空间的监控告警或废弃具体指标,以节省费用,后续有需要时可以重新恢复指标采集。本文为您介绍如何关闭监控告警、废弃监控指标,以及对应的恢复操作。注意事项 ...

按登录方式授权

实时计算Flink版支持阿里云账号、阿里云RAM用户、阿里云RAM角色、资源目录成员方式登录并访问实时计算控制台,以及进行作业开发和运维。不同登录方式下需要被授权的主体(身份或账号)可能不同,本文通过示例为您介绍不同登录方式下,访问...

任务编排(公测)

任务编排是一个全托管的工作流调度服务,通过可视化的操作界面轻松地编排批作业运行的顺序,构建数据仓库,在实时计算Flink版平台实现开发、调度、部署和运维一体化。重要 任务编排目前为公测功能,公测阶段不保障服务等级协议SLA。如果您...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
实时计算 Flink版 对象存储 云数据库 Redis 版 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用