数据湖生产-阿里云

Apache Hudi在Linkflow构建实时数据湖的生产实践

1. 背景 Linkflow 作为客户数据平台（CDP），为企业提供从客户数据采集、分析到执行的运营闭环。每天都会通过一方数据采集端点（SDK）和三方数据源，如微信，微博等，收集大量的数据。这些数据都会经过清洗，计算，整合后写入存储。使用者可以通过灵活的报表或标签对持久化的数据进行分析和计算，结果又...

云原生数据湖可以直接接入业务的生产中心吗？

云原生数据湖可以直接接入业务的生产中心吗？云原生数据湖可以直接接入业务的生产中心吗？

大数据知识图谱系列—如何选择合适的OLAP引擎进行数据湖分析

4 课时 |

110 人已学 |

加入学习

Flink + Hudi 在 Linkflow 构建实时数据湖的生产实践

可变数据的处理一直以来都是大数据系统，尤其是实时系统的一大难点。在调研多种方案后，我们选择了 CDC to Hudi 的数据摄入方案，目前在生产环境可实现分钟级的数据实时性，希望本文所述对大家的生产实践有所启发。内容包括：背景CDC 和数据湖技术挑战效果未来计划总结一、背景Linkflow 作为客户...

共有3条

< 1 >

跳转至： GO

更新时间 2024-03-17 10:42:21

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","icon":"数据湖构建","iconImg":"https://img.alicdn.com/tfs/TB1aU0U1oT1gK0jSZFrXXcNCXXa-200-200.png","contentLink":"https://www.aliyun.com/product/bigdata/dlf","title":"数据湖构建","des":"数据湖构建服务作为云原生数据湖架构核心组成部分，帮助用户简单快速地构建云原生数据湖解决方案。数据湖构建提供湖上元数据统一管理、企业级权限控制，并无缝对接多种计算引擎，打破数据孤岛，洞察业务价值。","link1":"https://common-buy.aliyun.com/?commodityCode=dlf_post_public_cn#/buy","btn1":"免费试用","link2":"https://dlf.console.aliyun.com/","btn2":"管理控制台","btn3":"","link3":"","infoGroup":[{"infoName":"产品文档","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/183492.html","firstContentName":"产品简介","lastContentLink":"https://help.aliyun.com/document_detail/183498.html","lastContentName":"用户指南"}},{"infoName":"相关推荐","infoContent":{"firstContentName":"对象存储 OSS","firstContentLink":"https://www.aliyun.com/product/oss","lastContentName":"大数据计算","lastContentLink":"https://www.aliyun.com/product/emapreduce"}}]}],"card":[],"search":[],"infoCard":[],"title":{"mainTitle":"数据湖构建","subtitle":"数据湖是一个集中式存储库，可存储任意规模结构化和非结构化数据，支持大数据和AI计算。数据湖构建服务（Data Lake Formation，DLF）作为云原生数据湖架构核心组成部分，帮助用户简单快速地构建云原生数据湖解决方案。数据湖构建提供湖上元数据统一管理、企业级权限控制，并无缝对接多种计算引擎，打破数据孤岛，洞察业务价值。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":""},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}

{"$env":{"JSON":{}},"$page":{"env":"production"},"$context":{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","icon":"数据湖构建","iconImg":"https://img.alicdn.com/tfs/TB1aU0U1oT1gK0jSZFrXXcNCXXa-200-200.png","contentLink":"https://www.aliyun.com/product/bigdata/dlf","title":"数据湖构建","des":"数据湖构建服务作为云原生数据湖架构核心组成部分，帮助用户简单快速地构建云原生数据湖解决方案。数据湖构建提供湖上元数据统一管理、企业级权限控制，并无缝对接多种计算引擎，打破数据孤岛，洞察业务价值。","link1":"https://common-buy.aliyun.com/?commodityCode=dlf_post_public_cn#/buy","btn1":"免费试用","link2":"https://dlf.console.aliyun.com/","btn2":"管理控制台","btn3":"","link3":"","infoGroup":[{"infoName":"产品文档","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/183492.html","firstContentName":"产品简介","lastContentLink":"https://help.aliyun.com/document_detail/183498.html","lastContentName":"用户指南"}},{"infoName":"相关推荐","infoContent":{"firstContentName":"对象存储 OSS","firstContentLink":"https://www.aliyun.com/product/oss","lastContentName":"大数据计算","lastContentLink":"https://www.aliyun.com/product/emapreduce"}}]}],"card":[],"search":[],"infoCard":[],"title":{"mainTitle":"数据湖构建","subtitle":"数据湖是一个集中式存储库，可存储任意规模结构化和非结构化数据，支持大数据和AI计算。数据湖构建服务（Data Lake Formation，DLF）作为云原生数据湖架构核心组成部分，帮助用户简单快速地构建云原生数据湖解决方案。数据湖构建提供湖上元数据统一管理、企业级权限控制，并无缝对接多种计算引擎，打破数据孤岛，洞察业务价值。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":""},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}}