如果有五百张表的job,用Flink Table API,是不是实际必须中间套层Kafka?

如果有五百张表的job,用Flink Table API,一张表一个CDC,肯定就得有500个不同的service-id呀,也就是五百个从库呀。感觉这种模式不太实用呀。是不是实际必须中间套层Kafka?CDC采集到发送到Kafka单独消费。如果单纯的flinkCDC采集,sink到目标库,是不是不太...

是否SQL或Table API是禁止设置uid或者uidhash的?包括对Kafka DataStr

在使用Flink 1.9 SQL时,需要结合外部大量数据与当前流进行Join、TopN和Distinct操作,考虑采用初始化相关Operator的State方法,遇到下面几个问题,麻烦解答下: 1. 是否SQL或Table API是禁止设置uid或者uidhash的?包括对Kafka DataStr...

消息队列Kafka入门课程

4 课时 |
3098 人已学 |
免费

分布式消息系统 Kafka 快速入门

24 课时 |
640 人已学 |
免费
开发者课程背景图

直接通过kafka source table表名直接引用报错,提示hive catalog内没这张表

我这面在使用hivecatalog将kafka数据落地到hive,但现在有一个问题是,我不想保存kafka source table元数据(默认自动保存),通过创建视图或临时表的方式启动flink任务,这时候直接通过kafka source table表名直接引用报错,提示hive catalog内...

kafka table connector保留多久的数据

你好, 用kafka table connector接过来的数据,在flink这边会保留多久,在参数列表里没有看到有这个设置,如果保留太久,内存会撑暴,比如我只想保留半个小时,之前的数据可以清除。*来自志愿者整理的flink邮件归档

kafka table connector eventTime的问题

你好。 在用kafka table connector时如果使用eventTime,需要怎么启用这个eventTime, 没有找到一些相应的sample, 我是这样用的, 1. 设置Stream环境setStreamTimeCharacteristic(TimeCharacteristic.Even...

Table Api连接kafka系统,能否把整条的kafka消息看成是一个table字段进行处理?

目前在学习使用pyflink的Table api,请教一个问题: 1、Table Api连接kafka系统,能否把整条的kafka消息看成是一个table字段进行处理?比如,kafka topic连的消息为一个json字符串,把这个字符串整体当做是一个字段,这样可以方便使用 pyflink 的udf...

如何从复杂的kafka消息体定义 table?

大家好: 我定义了一个table, 从kafka读取数据,不知道要怎么解析,用哪个format.type. 如果json, avro不能满足的话,是不是得自己自定义一个。 自定义的话不知道如何写,请各位帮忙指教下。 定义的表如下: CREATE TABLE MyUserTable( uuid VAR...

create table语句从kafka中读取数据时,创建的表的数据保存多久?

如文所述,感谢回答*来自志愿者整理的flink邮件归档

使用Flink Table对接Kafka 当使用startFromLatest且开启对 #FLink

使用Flink Table对接Kafka 当使用startFromLatest且开启对应的checkpoint时 当手工重启作业时如何从上一次停止的kafka offset进行继续消费? #Flink

PostgreSQL pg_recvlogical 与 test_decoding 自定义,支持source table filter, 对接kafka,es等

标签 PostgreSQL , pg_receivewal , pg_recvlogical 背景 pg_recvlogical 是PG提供的一个通过流复制协议,实时接收数据库逻辑变更的命令行客户端。 逻辑变更内容的来源是上游数据库的wal sender进程调用logical decode plug...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

社区圈子

消息队列
消息队列
消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。
20+人已加入
加入
相关电子书
更多
任庆盛|Flink CDC + Kafka 加速业务实时化
消息队列 Kafka 版差异化特性
2019大数据技术公开课第五季—kafka 数据如何同步到 MaxCompute
立即下载 立即下载 立即下载