Flink1.14.4版本消费kafka数据,能外部保存偏移量并维护吗?

Flink1.14.4版本消费kafka数据,能外部保存偏移量并维护吗?

Flink CDC消费kafka停止后,使用sp启动,有的拿到的偏移量是-1,导致中间丢数据?

Flink CDC消费kafka停止后,使用sp启动,15个分区都有数据,但是有的拿到的偏移量是-1,导致中间丢数据?

实时数据分析:使用Flink实时发现最热Github项目

1 课时 |
404 人已学 |
免费

实时数据接入:5分钟上手 Flink MySQL 连接器

1 课时 |
204 人已学 |
免费

大数据知识图谱系列—基于ELK+Flink日志全观测最佳实践

1 课时 |
174 人已学 |
免费
开发者课程背景图

Flink CDC中为啥监控mongodb,写不进去偏移量,导致每次都是从头拿数据?

Flink CDC中为啥监控mongodb,写不进去偏移量,导致每次都是从头拿数据?

Flink CDC中用mysql cdc 提交消费偏移量的时候报错,请问有人碰到过吗?

Flink CDC中用mysql cdc 提交消费偏移量的时候报错,请问有人碰到过吗?java.lang.IllegalAccessError: io/debezium/embedded/EmbeddedEngineChangeEvent

我们通过Flink CDC时间戳偏移量读取mysql binlog,设置了checkpoint,一?

我们通过Flink CDC时间戳偏移量读取mysql binlog,设置了checkpoint,一个taskmanager挂掉,这个任务转移到另一个taskmanager上,报如下错误: Caused by: com.github.shyiko.mysql.binlog.network.Server...

flink支持偏移量存在zookeeper的kafka消费吗?

flink支持偏移量存在zookeeper的kafka消费吗?

【Flink-API】取消Kafka记录偏移量,flink管理偏移量

【Flink-API】取消Kafka记录偏移量,flink管理偏移量

一、偏移量1.1 取消kafka偏移量默认是使用kafka来管理偏移量,下面我们来取消他的管理机制,使用flink来管理偏移量,开启flink的容错重启机制,还有中间数据state的保存机制。1.开启重启策略2.stateBackend存储位置3.取消任务checkpoint不删除4.设置check...

flink消费kafka提交偏移量

各位大佬,我自己使用flink1.11时,消费kafka数据源时候,使用group offset,在外部的kafka tool发现offset没有及时提交,请问下这个在flink中怎么保证呢*来自志愿者整理的flink邮件归档

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云实时计算Flink
阿里云实时计算Flink
一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。
199201+人已加入
加入
相关电子书
更多
基于 Flink SQL + Paimon 构建流式湖仓新方
基于 Flink CDC 打造 企业级实时数据集成方案
李劲松|Flink Table Store 典型应用场景
立即下载 立即下载 立即下载