阿里云实时计算Flink的产品化思考与实践【下】

阿里云实时计算Flink的产品化思考与实践【下】

摘要:本文整理自阿里云高级产品专家黄鹏程和阿里云技术专家陈婧敏在 FFA 2023 平台建设专场中的分享。内容主要为以下五部分: 阿里云实时计算 Flink 产品化思考 产品化实践 SQL 产品化思考及实践 展望 接上篇:阿里云实时计算Flink的产品化思考与实践【上】 三、产品化实践 4、技术民主...

Flink CDC里有大哥有同步sql server的实践吗?

Flink CDC里有大哥有同步sql server的实践吗?我们有些采购的系统用的sql server需要采集他们的数据我发现我的check point好像没用,不生效。我用的这个connector。读checkpoint必须initial吗?sql server 开启cdc对于生产的负载大吗?需...

实时数据分析:使用Flink实时发现最热Github项目

1 课时 |
404 人已学 |
免费

实时数据接入:5分钟上手 Flink MySQL 连接器

1 课时 |
204 人已学 |
免费

大数据知识图谱系列—基于ELK+Flink日志全观测最佳实践

1 课时 |
174 人已学 |
免费
开发者课程背景图
阿里云AnalyticDB基于Flink CDC+Hudi实现多表全增量入湖实践

阿里云AnalyticDB基于Flink CDC+Hudi实现多表全增量入湖实践

湖仓一体(LakeHouse)是大数据领域的重要发展方向,提供了流批一体和湖仓结合的新场景。阿里云AnalyticDB for MySQL基于 Apache Hudi 构建了新一代的湖仓平台,提供日志、CDC等多种数据源一键入湖,在离线计算引擎融合分析等能力。本文将主要介绍AnalyticDB fo...

飞书深诺基于Flink+Hudi+Hologres的实时数据湖建设实践

飞书深诺基于Flink+Hudi+Hologres的实时数据湖建设实践

01 背景介绍 飞书深诺集团致力于在出海数字营销领域提供全链路服务产品,满足不同企业的全球化营销需求。在广告效果监控和游戏运营业务场景中,为了及时响应广告投放成效与消耗方面的问题和快速监测运营动作效果,实时或准实时数据处理提供了至关重要的技术支撑。 通过对各个业务线实时需求的调研了解到,当前实时数据...

Flink 2.0 状态存算分离改造实践

Flink 2.0 状态存算分离改造实践

本文整理自阿里云智能 Flink 存储引擎团队兰兆千在 FFA 2023 核心技术(一)中 的分享,内容关于 Flink 2.0 状态存算分离改造实践的研究,主要分为以下四部分: Flink 大状态管理痛点 阿里云自研状态存储后端 Gemini 的存算分离实践 存算分离的进一步探索 批量化存算分离适...

Flink CDC实践(二)

Flink CDC实践(二)

flink CDC同步mysql2Doris 之scheam变更flink CDC DataStream双流join flink cdc 同步doris,上游schema变更 背景:在实际生产环境表的scheama 信息经常有可能会被修改,而且整库同步时,会随着业务的增长,mys...

阿里云Flink-自定义kafka sink partitioner实践及相关踩坑记录

阿里云Flink-自定义kafka sink partitioner实践及相关踩坑记录

1. 背景及需求链路:Flink -> sink kafka需求:客户需求根据数据的特征,以自定义的逻辑,将不同的数据写到kafka不同的分区中阿里云官方文档链接:https://help.aliyun.com/zh/flink/developer-reference/kafka-connec...

Flink实时计算大促压测实践

Flink实时计算大促压测实践

一、背景:临近双11大促,为避免流量峰值较高,电商公司都会对系统进行压测。一直做实时数据计算,应用是基于Flink做的,接收kafka消息,进行数据统计,包括:pv、uv、dau、单量、成交额等等。为了保证应用在大促期间不出问题,需要进行实时计算程序进行压测。由于统计的数据分为两类(流量数据、订单数...

Flink应用优化实践

Flink应用优化实践

1.问题定位(接入监控系统,在关键点位加入监控点)2.HBase表优化实践发现HBase数据保存以及查询一直耗时较高,联系HBase同事,做了限流处理,解决限流 3.HBase优化之后,发现仍然耗时较大,看到大部分请求走HBase,上面再做一层缓存,用redis做缓存,调用数量明显减少4.请求接口监...

flink CDC整库同步DB2的方案,目前社区是不是还没有实践?

flink CDC整库同步DB2的方案,目前社区是不是还没有实践?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云实时计算Flink
阿里云实时计算Flink
一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。
199201+人已加入
加入
相关电子书
更多
ACE 区域技术发展峰会:Flink Python Table API入门及实践
基于Kubernates的流处理平台实践 ——Flink为例
开发者专场-瓦力 探索实时计算新架构-Apache Flink 的云原生部署架构和实践最终版
立即下载 立即下载 立即下载