万字长文 | 泰康人寿基于 Apache Hudi 构建湖仓一体平台的应用实践

万字长文 | 泰康人寿基于 Apache Hudi 构建湖仓一体平台的应用实践

文章贡献者 Authors • 技术指导: 泰康人寿 数据架构资深专家工程师 王可 • 文章作者: 泰康人寿 数据研发工程师 田昕峣 摘要 Abstract 本文详细介绍了泰康人寿基于 Apache Hudi 构建湖仓一体分布式数据处理平台的技术选型方法、整体架构设计与实施、以及针对大健康领域的领域...

基于阿里云服务的数据平台架构实践

1. 背景介绍 目前由于数据分散在不同的存储环境或数据库中,对于新业务需求的开发需要从不同的数据库中同步、集中、合并等处理,造成资源和人力的浪费。同时,现有的系统架构,无法为未来数据驱动业务创新的理念提供友好的支撑。需要建设新一代数据管理平台,来解决数据利用率效率跟不上,以及不能支撑业务发展的问题。...

阿里云大数据工程师ACA认证(2023版)

21 课时 |
807 人已学 |
免费

基于MaxCompute的热门话题分析

8 课时 |
329 人已学 |
免费

场景实践 - 使用MaxCompute进行数据质量核查

6 课时 |
59 人已学 |
免费
开发者课程背景图

利用大数据和API优化电商决策:商品性能分析实践

一、确定分析目标与规划数据收集 首先,明确分析目标是成功的第一步。我们需要知道我们想要解决的具体问题:是提高转化率、降低库存成本还是提升顾客满意度?一旦目标确定,我们就需要规划相应的数据收集工作。这包括销售数据、顾客反馈、价格变动等关键指标。 二、选择合适的API工具 淘宝、天猫等电商平台的API是...

[帮助文档] MaxCompute+DLF+OSS湖仓一体的湖查询和湖数据入仓实践

MaxCompute、DLF和OSS是阿里云提供的一体化解决方案,可以实现数据湖查询和湖数据入仓。通过配置DLF,将数据从OSS导入到MaxCompute中,并使用MaxCompute进行数据湖查询。该方案可以方便地进行数据分析和处理,并保证数据的可靠性和安全性。

开源大数据比对平台设计与实践—dataCompare

开源大数据比对平台设计与实践—dataCompare

1.背景&现状在大数数据开发过程中,经常会遇到数据迁移或者升级的工作,或者不同的业务方根据需求加工了一下数据,但是认为两边的数据还是一样,因此会出现需要去手动比对数据。那两边数据究竟是不是一致的呢?如果不一致,那又有哪些差异呢?如果没有平台的话,需要手动写一些SQL 脚本进行去比对的,而且也...

某互联网大厂亿级大数据服务平台的建设和实践

某互联网大厂亿级大数据服务平台的建设和实践

一、引言:在大数据建设过程中,通用的建设思路:从数据埋点——数据采集——数据清洗(ETL)——数据服务——数据可视化。整体流程可参考下图: 这篇文章主要想和大家聊聊的是,数据服务平台的建设。二、背景:由于数据加工完成的数据,需要给不同的应用和产品提供服务,包含:数据产品、实时大屏、线上应用、BI自主...

某工商信息商业查询平台基于阿里云数据库 SelectDB 版内核 Apache Doris 的湖仓一体建设实践

某工商信息商业查询平台基于阿里云数据库 SelectDB 版内核 Apache Doris 的湖仓一体建设实践

2023 年 3 月,在阿里云瑶池数据库峰会上,阿里云与飞轮科技正式达成战略合作协议,双方旨在共同研发名为“阿里云数据库 SelectDB 版”的新一代实时数据仓库,为用户提供在阿里云上的全托管服务。 SelectDB 是飞轮科技基于 Apache Doris 内核打造的聚焦于企业大数据实时分析需求...

大数据时代的软件开发实践:利用云计算和AI赋能创新

大数据时代的软件开发实践:利用云计算和AI赋能创新

在大数据时代,软件开发实践正面临着前所未有的机遇和挑战。云计算和人工智能(AI)作为两大核心技术,为软件开发带来了深刻的变革,赋予创新以更广阔的空间和更强大的能力。以下是关于如何利用云计算和AI赋能创新的软件开发实践:云计算的赋能弹性资源管理在云计算环境下,开发团队可以根据项目需求即时调整计算资源。...

米哈游大数据云原生实践

米哈游大数据云原生实践

作者:米哈游大数据开发近年来,容器、微服务、Kubernetes 等各项云原生技术的日渐成熟,越来越多的公司开始选择拥抱云原生,并开始将 AI、大数据等类型的企业应用部署运行在云原生之上。以 Spark 为例,在云上运行 Spark 可以充分享有公共云的弹性资源、运维管控和存储服务等,并且业界也涌现...

首次揭秘!小米大数据体系的建设与实践

首次揭秘!小米大数据体系的建设与实践

前言前段时间,很荣幸能参加云栖大会,并和大家分享一个议题,接下来我们来回顾一下介绍这次给大家带来的题目是《小米大数据运维管理体系的建设和实践》今天整个分享分两部分,第一部分我们先来聊聊大数据运维数字化转型相关的内容 看看运维层面如何做到化繁为简,打造极致效率的;紧接着第二部分,会给大家介绍一下小米大...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里巴巴大数据计算
阿里巴巴大数据计算
阿里大数据官方技术圈
347748+人已加入
加入
相关电子书
更多
大数据处理-原理和MaxCompute实践
MaxCompute索引优化实践分享
2019大数据技术公开课第五季—日志数据如何同步到MaxCompute之实践讲解
立即下载 立即下载 立即下载