基本概念
无 连接器（Connector）实时计算Flink版内置了丰富的连接器用于多种上下游的数据读写与同步，并支持上传和使用自定义连接器。支持的连接器 函数（Function）实时计算Flink版提供函数功能，包括内置函数和自定义函数。窗口函数概述 支持的...
数据总线DataHub
} 常见问题 实时计算Flink版支持的连接器列表，请参见 支持的连接器。您可以使用Kafka连接器来访问DataHub，Kafka连接器使用详情，请参见 消息队列Kafka。分裂或者缩容DataHub Topic后导致Flink作业失败，如何恢复？可以删除正在消费的...
社区版CDC
重要 社区版CDC连接器是遵循Apache 2.0开源协议的社区开源项目，与阿里云实时计算Flink版产品提供的商业版连接器在服务支持及SLA存在差异：在使用时，如果您遇到配置失败、作业失败或数据丢失等问题，需要到开源社区寻找对应问题的解决方案...
什么是阿里云实时计算Flink版
阿里云实时计算Flink版是一套基于Apache Flink构建的⼀站式实时大数据分析平台，提供端到端亚秒级实时数据分析能力，并通过标准SQL降低业务开发门槛，助力企业向实时化、智能化大数据计算升级转型。产品概述 阿里云实时计算Flink版是一种全...
管理自定义连接器
注意事项 您需要根据社区定义的连接器标准开发您自定义的连接器，才能正确地被实时计算Flink版识别并使用，因此您需要明确连接器Meta文件和声明Factory类。自定义连接器开发详情请参见 User-defined Sources&Sinks。同种类型的连接器仅可以...
管理自定义Catalog
说明 支持使用其他服务的HTTP路径，需要该服务和实时计算Flink版在同一VPC下或者先打通实时计算Flink版和目标服务的公网网络链接后使用公网地址。详情请参见 Flink全托管集群如何访问公网？单击 下一步。确认Properties信息后，单击 确定。...
2023-12-07版本
管理资源队列 任务编排（公测）通过可视化的操作界面轻松地编排批作业运行的顺序，调度批作业任务的运行，高效构建数据仓库，在实时计算Flink版平台实现开发、调度、部署和运维一体化。任务编排（公测）查询脚本 可以在查询脚本中通过DDL、...
2024-04-01版本
本文为您介绍2024年4月1日发布的实时计算Flink版的重大功能变更和主要缺陷修复。重要 本次升级计划在全网逐步进行灰度，预计3-4周完成全部升级，具体计划请关注 实时计算控制台 页面右侧的最新公告。如果您不能使用相关新功能，说明您的...
技术支持
关于阿里云实时计算Flink版产品和服务的相关问题，您可以通过以下渠道寻求支持和解决。支持范围 类别 详情 支持的服务 负责实时计算控制台的使用、咨询服务、稳定性问题和产品缺陷问题处理。实时计算控制台功能主要包括：工作空间购买流程 ...
使用限制
使用限制 浏览器：仅支持通过Chrome内核的浏览器访问阿里云实时计算Flink版控制台。地域及可用区：实时计算Flink在中国和海外多个区域提供服务，每个区域有一到多个可用区，支持详情请参见 地域及可用区。资源数：包年包月工作空间开通时，...
数据格式
本文为您介绍Flink支持的数据格式。数据格式 数据格式 支持的连接器 JSON 消息队列Kafka、Upsert Kafka、Elasticsearch、对象存储OSS，云数据库MongoDB、StarRocks。...Parquet 对象存储OSS连接器（实时计算引擎VVR 6.0.7及以上版本）
支持的连接器
表类型的定义 阿里云实时计算Flink版通过Flink SQL定义表对上下游存储进行映射或者使用Datastream API进行连接来实现读写。支持以下几种Flink SQL表类型的定义：源表（Source Table）Flink作业的数据输入表，是计算的驱动来源。不能作为维...
DataStream连接器设置方法
您可以通过以下任何一种方式来使用连接器：（推荐）上传连接器JAR包到实时计算控制台后，填写配置信息 直接将连接器作为项目依赖打进作业JAR包 重要 请使用我们在 支持的连接器 中指明提供DataStream API的连接器。如果某个连接器未注明...
Flink Python作业快速入门
本文带您快速体验Flink Python流作业和批作业的创建、部署和启动，以了解实时计算Flink版Python作业的操作流程。前提条件 如果您使用RAM用户或RAM角色等身份访问，需要确认已具有Flink控制台相关权限，详情请参见 权限管理。已创建Flink...
管理Paimon Catalog
Paimon Catalog使用的OSS Bucket必须与实时计算Flink版位于同一地域，且开通实时计算Flink版服务的账号必须有权限读写该OSS Bucket。注意事项 目前由于Flink全托管相关缓存机制，通过SQL方式进行Catalog、Database和table的增删，无法立刻...
StarRocks
CDAS可以实现整库同步或者同一库中的多表结构和数据同步，详情请参见 基于实时计算Flink使用CTAS&CDAS功能同步MySQL数据至StarRocks。前提条件 已创建StarRocks集群，包括EMR的StarRocks或基于ECS的云上自建StarRocks。使用限制 仅实时计算...
MongoDB（公测中）
已创建MongoDB数据库和表 已设置IP白名单 使用限制 CDC源表 实时计算Flink VVR 8.0.1及以上版本支持使用MongoDB CDC连接器。MongoDB 6.0及以上版本支持产生Full Changelog事件流。MongoDB 4.0及以上版本支持指定时间戳的启动模式。结果表 ...
作业启动问题
详情请参见 开通实时计算Flink版。解决方案 在OSS上配置生命周期规则来定期清理删除标记和不必要的历史版本，详情请参见 使用最后一次修改时间的生命周期规则结合版本控制降低存储成本。报错：Job was submitted in detached mode.Results ...
应用场景
说明 更多场景案例请参见 阿里云实时计算Flink版产品案例和解决方案汇总。背景信息 作为流式计算引擎，Flink可以广泛应用于实时数据处理领域，例如ECS在线服务日志，IoT场景下传感器数据等。同时Flink还能订阅云上数据库RDS、PolarDB等关系...
通过实时计算Flink集成向量数据
若实时计算Flink端使用开源自建版，请确保 flink-adbpg-connector 已安装在$FLINK_HOME/lib 目录下。若使用 公有云托管版，则无任何操作。AnalyticDB PostgreSQL版 数据库已安装向量检索插件FastANN。您可以在psql客户端通过 \dx fastann ...
基于Paimon的数据库实时入湖快速入门
目前阿里云实时计算Flink版，以及开源大数据平台E-MapReduce上常见的计算引擎（例如Spark、Hive或Trino）都与Paimon有着较为完善的集成度。您可以借助Apache Paimon快速地在HDFS或者OSS上构建自己的数据湖存储服务，并接入计算引擎实现数据...
CREATE TABLE AS（CTAS）语句
示例四：多个CTAS语句作为一个作业提交 实时计算Flink版支持使用STATEMENT SET语法将多个CTAS语句作为一个作业一起提交，并且可以对Source进行优化，复用一个Source节点读取多业务表的数据。这对于MySQL CDC数据源场景尤为适用，因为这可以...
本地运行和调试包含连接器的作业
本文为您介绍如何在开发者本地环境中运行和调试包含阿里云实时计算Flink版连接器的作业，以便快速验证代码的正确性，快速定位和解决问题，并节省云上成本。背景信息 当您在Inteillij IDEA中运行和调试Flink作业，如果其包含了阿里云实时...
Parquet
仅对象存储OSS连接器（实时计算引擎VVR 6.0.7及以上版本）支持读取Parquet格式的数据。使用示例 利用OSS和Parquet格式创建表的示例如下。CREATE TABLE user_behavior(user_id BIGINT,item_id BIGINT,category_id BIGINT,behavior STRING,ts...
管理Hologres Catalog
实时计算Flink版仅支持读写Hologres内表，因此Hologres实例必须是独占实例，不支持 Hologres共享集群实例。创建Hologres Catalog 支持UI与SQL命令两种方式配置Hologres Catalog，推荐使用UI方式配置Hologres Catalog。UI方式（推荐）进入...
JDBC
使用限制 仅实时计算引擎VVR 6.0.1及以上版本支持JDBC连接器。JDBC源表为Bounded Source，表中数据读取完，对应的Task就会结束。如果需要捕获实时变更数据，则请使用CDC连接器，详情请参见 MySQL的CDC源表 和 Postgres的CDC源表（公测中）...
对象存储OSS
本文为您介绍如何使用对象存储OSS连接器。阿里云 对象存储OSS（Object Storage Service）是一款海量、安全、低成本和高可靠的云存储服务，可提供99.9999999999%（12个9）的数据持久性，99.995%的数据可用性。多种存储类型供选择，全面优化...
管理DLF Catalog
在 使用内置连接器连接 页签，单击 连接方式，选择表类型。单击 下一步。填写建表语句并配置相关参数信息。代码示例如下。CREATE DATABASE dlf.dlf_testdb;CREATE TABLE dlf.dlf_testdb.iceberg(id BIGINT,data STRING,dt STRING)...
JSON
支持JSON格式的连接器有：消息队列Kafka、Upsert Kafka、Elasticsearch、对象存储OSS，云数据库MongoDB 和 StarRocks 等。使用示例 利用Kafka以及JSON格式构建表的示例如下。CREATE TABLE Orders(orderId INT,product STRING,orderInfo MAP...
Debezium
支持Debezium格式的连接器有 消息队列Kafka 和 对象存储OSS。Flink支持将Debezium JSON和Avro消息解析为INSERT、UPDATE或DELETE消息到Flink SQL系统中。在很多情况下，利用这个特性非常的有用，例如：将增量数据从数据库同步到其他系统 ...
企业级状态后端存储介绍
GeminiStateBackend是一款面向流计算场景的KV存储引擎，作为实时计算Flink版产品的默认状态存储后端（StateBackend）。本文为您介绍企业级状态后端存储GeminiStateBackend的核心设计，以及其与RocksDBStateBackend的性能对比情况。整体介绍...
Iceberg
使用限制 仅Flink计算引擎VVR 4.0.8及以上版本支持Iceberg连接器。Iceberg连接器仅支持Apache Iceberg v1表格式，详情请参见 Iceberg Table Spec。语法结构 CREATE TABLE iceberg_table(id BIGINT,data STRING)WITH('connector'='iceberg',...
Terraform
实时计算Flink版支持接入Terraform，您可以基于Terraform平台使用和管理Flink资源。背景信息 基本功能 Terraform是一种基础设施即代码（Infrastructure as Code）工具，可以通过编写简洁的代码来定义和配置云端基础设施，而不必手动操作和...
实时计算Flink版技术场景
相关文档 什么是阿里云实时计算Flink版 功能与优势 应用场景 开通Flink全托管
管理Hive Catalog
在 使用内置连接器连接 页签，选择连接器后，单击 下一步。填写建表语句并配置相关参数信息。代码示例如下。CREATE TABLE `${catalog_name}`.`${db_name}`.`${table_name}`(id INT,name STRING)WITH('connector'='hive');单击 确定。SQL...
Elasticsearch
本文为您介绍如何使用Elasticsearch连接器。背景信息 阿里云Elasticsearch阿里云Elasticsearch 兼容开源Elasticsearch的功能，以及Security、Machine Learning、Graph、APM等商业功能，致力于数据分析、数据搜索等场景服务。为您提供企业级...
使用UDAF实现数据排序和聚合
本文提供了一个自定义聚合函数（UDAF），实现将多行数据合并为一行并按照指定列进行排序，并以居民用电户电网终端数据为例，介绍如何在实时计算控制台使用该函数进行数据聚合和排序。示例数据 居民用电户电网终端数据表electric_info，包括...
云数据库HBase
本文为您介绍如何使用云数据库HBase连接器。背景信息 云数据库HBase 是低成本、高扩展、云智能的大数据NoSQL，兼容标准HBase访问协议，提供低成本存储、高扩展吞吐、智能数据处理等核心优势，是为淘宝推荐、花呗风控、广告投放、监控大屏、...
Hudi
本文为您介绍如何使用Hudi连接器。背景信息 Apache Hudi是一种开源的数据湖表格式框架。Hudi基于对象存储或者HDFS组织文件布局，保证ACID，支持行级别的高效更新和删除，从而降低数据ETL开发门槛。同时该框架还支持自动管理及合并小文件，...
实时计算Flink版行业案例
相关文档 什么是阿里云实时计算Flink版 应用场景 开通Flink全托管
- 产品推荐
- 这些文档可能帮助您