Spark on ECI大数据分析
Spark on ECI<em>大数据分析</em>
场景描述 方案优势 1.计算引擎弹性扩缩容,兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构,结合阿里云原生云 存储产品,海量数据湖优势。 3.Kubernetes原生的调度性能优势,提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足,计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离,大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
应用范围 需要使用 Spark on Kubernetes解决方案的用户 对 Spark大数据分析平台计算资源成本控制考虑的用户 需要有灵活可扩展计算平台资源弹性及管控的用户 名词解释 文件存储 HDFS:阿里云文件存储 HDFS是面向阿里云 ECS实例及容器服务等计 算资源的文件存储服务,允许用户像在 Hadoop分布式文件系统中管理和访问 ,...
来自: 最佳实践 相关产品:专有网络 VPC,对象存储 OSS,容器服务 ACK,弹性容器实例 ECI,文件存储HDFS
互联网电商行业离线大数据分析
互联网电商行业离线<em>大数据分析</em>
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示,如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示,效果震撼,触控大屏支持用户自助查询数据,极大地增强数据的可读性。
互联网电商行业离线大数据分析 最佳实践 业务架构 场景描述 本实践介绍了使用阿里云MaxCompute、数据库(RDS)、DataWorks等产品实现电商网站离线数据 ,分析后的业务指标数据实时在大屏展示。通过完整 的实践Demo为例,提供从电商网站搭建,数据从RDS 同步到MaxCompute、再到DataWorks进行数据分析,最后在大屏上展示...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,API网关,云速搭CADT
基于弹性供应组构建大数据分析集群
基于弹性供应组构建<em>大数据分析</em>集群
场景描述 基于弹性供应组(APG)搭建spark计算集 群,提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本:跨售卖方式提供计算实 例,按秒计费,可全部使用spot实例 交付,最高可省90%成本。 2.稳定可靠:跨可用域、跨实例规格, 降低spot被集体释放的风险;自动托 管,分钟级巡检,动态保证集群的算 力。 3.快速交付:单次可在5分钟内交付 2000个实例。 4.多策略组合:可分别指定spot和按量 实例的交付策略,以及差额补足的策 略,包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一,无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张,无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
基于弹性供应组构建大数据分析集群最佳实践 业务架构 场景描述 基于弹性供应组(APG)搭建 spark计算集 群,提供一键开启跨售卖方式、跨可用区、跨实例规格的计算集群交付模式的实践。方案优势 1.超低成本:跨售卖方式提供计算实 例,按秒计费,可全部使用 spot实例 交付,最高可省 90%成本。2.稳定可靠:跨可用域、跨实例...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP
云服务器 ECS
阿里云服务器ECS是一种处理能力可弹性伸缩的云主机虚拟服务器,它使服务器托管更安全稳定,可降低开发运维成本,支持包年包月、按量付费等模式,方便财务更好管理
例如临时扩展、测试、大数据处理等。计费方式转化:暂不支持转换为其他计费方式。包年包月(预付费)定义:先付费后使用,在购买ECS实例时一次性付费,购买时长越长,折扣越多。适用场景:可预估资源使用周期、业务稳定成熟、需要长期使用资源等。例如7*24的Web服务、数据库服务等。计费方式转换:包年包月可以变更为按量...
来自: 云产品
云原生内存数据库Tair
云原生内存数据库Tair是阿里云推出的,基于云原生架构的内存数据库,兼容Redis API,支持内存、持久内存、ESSD三种存储介质,并提供大量扩展型数据结构及企业级能力。
大数据处理无缝对接.网站类应用场景中,网站读写压力较大,且要求控制成本,云原生内存数据库Tair单节点版满足纯缓存场景,提供高QPS性能,数据持久化到底层RDS能力.Tair多线程模型提供最高30万的QPS,升级为单节点集群版后可承载超大流量压力.单节点故障不影响业务.单节点Tair满足纯缓存应用,提供超高性价比.云服务器ECS....
来自: 云产品
应用实时监控服务ARMS
作为云原生可观测平台,应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率,压降运维工作量。
预置近百种图表组件与十种看板模板,支持不同数据类型展示与分析,满足不同场景需求.预置可视化插件与看板模板.可观测可视化 Grafana 版.应用实时监控服务 ARMS.统一监控大盘.针对多告警源进行统一管理,实现跨平台、跨团队的应急协同.丰富的预置集成组件,覆盖阿里云日志服务SLS、Prometheus、ARMS、开源主流监控系统。...
来自: 云产品
人工智能平台 PAI
阿里云人工智能平台 PAI 涵盖交互式建模、可视化建模、分布式训练到模型在线部署全流程;快速搭建人工智能推荐系统;深度学习模型训练速度提升数十倍;减少50%GPU成本
通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段,提高AI训练和推理的速度、易用性和稳定性,极提升AI计算的效率.AI加速服务.进一步了解AI加速服务.了解和购买智算服务 PAI-灵骏.面向规模深度学习及融合智算场景的PaaS平台产品,支持公共云Serverless版、单租版以及混合云产品形态,一站式提供...
来自: 云产品
企业标准版数据分析解决方案
企业标准版数据分析解决方案通过实时数仓+离线数仓的组合方案,实现多源数据采集、集成、计算和展现,满足客户不同维度、不同查询时效性的要求,解决企业客户普遍会遇到的数据分析瓶颈,帮助业务决策,提升销售转化。
离线大数据分析最佳实践>.互联网电商行业离线大数据分析.实时大数据分析最佳实践>.基于 MaxCompute 的大数据 BI 分析.通过“实时数仓+离线数仓”的组合方案,实现多源数据采集、集成、计算和展现,满足客户不同维度、不同查询时效性的要求,解决企业客户普遍会遇到的数据分析瓶颈,帮助业务决策、提升销售转化.企业标准版...
来自: 解决方案
云原生数据分析DLA
阿里云云原生数据湖分析是新一代大数据解决方案,采取计算与存储完全分离的架构,支持对象存储(OSS)、RDS(MySQL等)、NoSQL(MongoDB等)数据源的消息实时归档建仓,提供Presto和Spark引擎,满足在线交互式查询、流处理、批处理、机器学习等诉求。内置大量优化+弹性,比开源自建集群最高降低50%+的成本,最快可1分钟级拉起300个计算节点,快速满足业务资源要求。
兼容MySQL协议,无需ETL,可使用SQL直接分析OSS等十种源数据,快速低成本开启大数据分析.云数据库RDS MySQL版.对象存储OSS.推荐搭配产品.Lakehouse实时入湖.异构数据实时分析,为数据驱动提速.直接使用生产库对海量数据分析,不仅会对线上业务产生影响,还可能出现超时,查询失败的现象;但自建数据仓库又需投入大量的软...
来自: 云产品
利用交互式分析(Hologres)进行数据查询
利用交互式<em>分析</em>(Hologres)进行<em>数据</em>查询
场景描述 随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
MaxCompute为您提供完善的数据导入方案以及多种经典的分布式计算模型,您 文档版本:20220330 III 利用交互式分析工具进行数据查询 前言 可以不必关心分布式计算和维护细节,便可轻松完成大数据分析。详见 https://help.aliyun.com/product/27797.html 实时计算 Flink:阿里云实时计算 Flink版(Alibaba Cloud Realtime ...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
EMR本地盘实例规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求,在云 上推出了本地盘D1机型,这个系列提供了本地 盘而非云盘作为存储,提高了磁盘的吞吐能力, 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型,推出了一整套的自动化运 维方案,帮助用户方便可靠地使用本地盘机型, 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
应用范围 需要使用阿里云 EMR+本地盘进行大数据业务前进行性能测试的用户 线下自建大数据集群用户需要迁移到阿里云云上 EMR+本地盘进行大数据分析性 能对比测试的用户 名词解释 VPC:Virtual Private Cloud,简称 VPC。基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离,可以在自己创建的专有网络内创建和...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce
云上大数据仓库解决方案
阿里云云原生大数据仓库,包含离线实时一体化数仓和实时数仓解决方案,为企业提供一站式云上智能开发、调度、服务、质量、安全的全链路服务。
EMR 弹性低成本离线大数据分析.互联网、电商行业离线大数据分析.离线大数据分析最佳实践.企业级实时数仓最佳实践.利用 Hologres 进行数据查询解决方案.实时大数据分析最佳实践.EMR 本地盘实例大规模数据集测试.大规模数据集测试.根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务!售前专家...
来自: 解决方案
游戏系统和业务运维及分析解决方案
游戏系统和业务运维及分析解决方案,通过阿里云日志服务 SLS、对象存储 OSS 等产品,帮助客户构建简单、易用、性能高、成本低的运维及分析平台,满足基础系统运维和业务运维等游戏运维场景需求,同时提供日志数据分析能力,实现故障预警、提高问题排查速度、提高风险识别安全等级等能力,保障游戏业务安全稳定运行。
通过大数据分析结合机器学习重新定义智能运维,通过智能告警、异常检测等功能让运维数据分析更加智能,可以快速实现异常游戏数据分析、游戏平台故障根因分析等智能数据分析能力.智能运维数据分析平台.针对游戏行业运维场景,通过阿里云日志服务 SLS、对象存储 OSS 等产品,帮助客户构建简单、易用、性能高、成本低的运维及...
来自: 解决方案
云原生数据仓库AnalyticDB PostgreSQL版
阿里云MPP架构的云原生数据仓库,可提供PB级海量数据在线/离线分析服务,是面向各行各业的有竞争力的数仓方案,真正做到“人人可用的数据分析服务”。
推荐搭配使用.GIS 时空大数据分析.GIS 时空大数据分析.企业大模型云上大脑.企业大模型云上大脑.企业大模型云上大脑.<查看数据库全部产品.企业级能力完备,极具性价比,兼容 PG/Greenplum 开源生态及 Oracle/TD 语法生态;自研云原生存算分离架构,具备秒级弹性和数据共享等国内领先的产品能力;具备高吞吐的实时数据加工及...
来自: 云产品
云原生企业级数据
基于对象存储 OSS 构建的数据湖,可对接多种数据输入方式,存储任何规模的结构化、半结构化、非结构化数据,打破数据湖孤岛。无缝对接多种数据分析产品,对存储在对象存储 OSS 中的数据直接进行大数据分析,洞察业务价值。同时,数据湖提供多种存储类型的冷热分层转换能力,通过数据全生命周期管理优化存储成本。
无缝对接多种数据分析产品,对存储在对象存储 OSS 中的数据直接进行大数据分析,洞察业务价值。同时,数据湖提供多种存储类型的冷热分层转换能力,通过数据全生命周期管理优化存储成本。方案预估:体验本方案预计费用不超过5元(假设您选择最低规格资源,且资源运行时间不超过30分钟。如调整了资源规格,请以控制台显示的...
来自: 解决方案
数据可视化DataV
数据可视化DataV是阿里云一款数据可视化应用搭建工具,旨让更多的人看到数据可视化的魅力,帮助非专业的工程师通过图形化的界面轻松搭建专业水准的可视化应用,满足您会议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求。
面向大众用户的数据可视分析产品模块,针对日常表单数据分析和时空大数据分析场景分别推出Card和Atlas两款产品,帮助您快速进行不同分析场景下的可视分析任务,探索数据价值、表达数据观点.DataV可视分析.图片56*56(不可与icon共存).图片logo.icon名称(不可与图片logo共存).icon名称.不填写不展示.DataV-数据看板产品文档...
来自: 云产品
AnalyticDB MySQL湖仓版的用户运营分析实践
方案使用AnalyticDB MySQL湖仓版实现对应用数据的分析。过去的方案中,为了不影响在线分析的性能和稳定性,通常用两个实例,一个负责数据清洗,一个负责在线分析,但这种方案存在数据时效性差、一致性差、数据冗余的问题。本方案只需一个湖仓版实例就能完成“数据入湖+作业开发+在线分析”的一站式用户运营数据分析,提供更高效的数据处理方案与更低的数据存储成本。
应用场景大数据分析快速处理海量的数据,支持多维度的复杂数据分析,适用于大数据分析场景。数据集成覆盖日志、消息、数据库、HDFS等结构化和非结构化的数据源,可以将多个数据源的数据进行整合,形成更为全面的数据视图。即席查询与自助分析实时数据可直接接入BI工具,实现实时自主分析,快速洞察数据,可帮助企业优化业务...
来自: 解决方案
云数据库 SelectDB 版
云数据库 SelectDB 版是新一代云原生数据仓库 SelectDB 在阿里云上的全托管服务,聚焦于满足企业级大数据分析需求,Apache Doris 2.0 进一步增强数据导入能力,为客户提供极致性能、简单易用的数据分析服务。
相关产品云数据库 SelectDB 版本产品日志服务 SLS检索分析服务 Elasticsearch 版在线咨询湖仓一体分析传统的大数据平台解决方案通过组合多套数据湖查询引擎和数据仓库系统,来满足客户复杂多样的大数据分析需求,面临人力及资源成本高、数据开发使用复杂、数据分析实时性差等问题。基于 SelectDB 构建湖仓一体的分析系统,...
来自: 云产品
阿里云大数据&AI
阿里云大数据和AI产品服务。开放数据处理服务ODPS提供强大的数据分析和管理功能;开源大数据产品支持更加灵活地构建大数据平台;AI和机器学习产品提供AI工程平台和智算服务。
实时数仓20讲.MaxCompute 学习路径.DataWorks学习路径.5分钟快速进行大数据分析.轻松玩转一站式实时仓库.数据湖构建DLF快速入门.丰富的学习资料,行业实践,讲解视频,动手实训等助你轻松进阶.快速上手,实践指南.访问控制、应用安全、风控审计、数据安全.开箱即用的在线服务、加速构想验证和产品交付.SaaS化开箱即用....
来自: 云产品
< 1 2 3 4 ... 24 >
共有24页 跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云原生大数据计算服务 MaxCompute 云数据库 RDS 云原生数据湖分析 (文档停止维护) 数据库备份 DBS 弹性公网IP 短信服务

新品推荐

切换为移动版

新人特惠 爆款特惠 最新活动 免费试用