[帮助文档] ESS架构和配置项介绍(旧)

ESS(EMR Remote Shuffle Service)是E-MapReduce(简称EMR)在优化计算引擎的Shuffle操作上,推出的扩展组件。

阿里云大数据平台 -时序数据集成架构与存储规划

阿里云大数据平台 -时序数据集成架构与存储规划

1.  时序数据概述最近在做一个工业方面的项目,第一次接触到了一种数据-时序数据。这种数据估计很多人跟我一样,之前没什么概念,更没有听过。不过对这种数据产生的另外一种常见的场景-物联网(IOT,Internet of Things),多少所耳闻。在工业方向,对应的场景叫做工业物联...

容器应用的高弹性架构

9 课时 |
31 人已学 |
免费

高可用应用架构

9 课时 |
121 人已学 |
免费

微服务架构与混沌工程介绍

1 课时 |
60 人已学 |
免费
开发者课程背景图
浅谈大数据平台架构

浅谈大数据平台架构

什么是大数据平台 有三个疑问: 1.使用Cloudera或Hortonworks之类的Hadoop发行版本公司的提供的Hadoop套件,配置些参数,找几台服务器部署起来就算是一套大数据平台吗? 2.数据开发人员平时的工作是不是写些MR或者SQL任务,使用原生的命令行提交任务就可以了吗? 3.平台开发...

大数据平台架构设计探究

本文首发于 vivo互联网技术 微信公众号  链接:https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA 作者:刘延江 近年来,随着IT技术与大数据、机器学习、算法方向的不断发展,越来越多的企业都意识到了数据存在的价值,将数据作为自身宝贵的资产...

大数据平台解决方案,Hadoop + HDFS+Hive+Hbase大数据开发整体架构设计

波若大数据平台Hadoop + HDFS+Hive+Hbase大数据开发工具剖析: HDFS:分布式、高度容错性文件系统,能提供高吞吐量的数据访问,非常适合大规模数据集上的应用,大规模的波若大数据平台(BR-odp)用户部署上1000台的HDFS集群。数据规模高达50PB以上 HDFS和MR共同组成...

DKHadoop大数据平台架构详解

大数据的时代已经来了,信息的爆炸式增长使得越来越多的行业面临这大量数据需要存储和分析的挑战。Hadoop作为一个开源的分布式并行处理平台,以其高拓展、高效率、高可靠等优点越来越受到欢迎。这同时也带动了hadoop商业版的发行。这里就通过大快DKhadoop为大家详细介绍一下hadoop大数据平台架构...

阿里如何实现秒级百万TPS?搜索离线大数据平台架构解读

背景 什么是搜索离线? 一个典型的商品搜索架构如下图所示,本文将要重点介绍的就是下图中的离线数据处理系统(Offline System)。 何谓离线?在阿里搜索工程体系中我们把搜索引擎、在线算分、SearchPlanner等ms级响应用户请求的服务称之为“在线”服务;与之相对应的,将各种来源数据转换...

知乎大数据平台架构实践

知乎数据平台负责人亡语舟在2017APMcon中国应用性能管理大会上做了题为《知乎大数据平台架构实践》的分享,就知乎数据平台架构,数据可视化Demo及其他实际应用分析做了深入的分析。 https://yq.aliyun.com/download/687?spm=a2c4e.11154804.0.0....

为什么选择这样的大数据平台架构?

当前BAT基本公开了其大数据平台架构,从网上也能查询到一些资料,关于大数据平台的各类技术介绍也不少,但在那个机制、那个环境、那个人才、那个薪酬体系下,对于传统企业,可借鉴的东西也是有限的。 技术最终为业务服务,没必要一定要追求先进性,各个企业应根据自己的实际情况去选择自己的技术路径。 与传统的更多从...

大数据平台架构技术选型与场景运用

一、大数据平台 大数据在工作中的应用有三种: 与业务相关,比如用户画像、风险控制等; 与决策相关,数据科学的领域,了解统计学、算法,这是数据科学家的范畴; 与工程相关,如何实施、如何实现、解决什么业务问题,这是数据工程师的工作。 数据工程师在业务和数据科学家之间搭建起实践的桥梁。本文要分享的大数据平...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

金融级分布式架构
金融级分布式架构
SOFAStack™(Scalable Open Financial Architecture Stack)是一套用于快速构建金融级分布式架构的中间件,也是在金融场景里锤炼出来的最佳实践。
122+人已加入
加入
相关电子书
更多
PolarDB分布式版架构介绍
PolarDB开发者大会:PolarDB面向云存储的架构优化
PolarDB-X一体化HTAP架构,助力企业级查询分析加速
立即下载 立即下载 立即下载