基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
所以云数据库 ClickHouse基于开源 ClickHouse的内 核，在企业级特性上面做了增强：文档版本：20201224 7 基于 Flink+ClickHouse构建实时游戏数据分析 架构设计 1.增强安全性：增加用户管理、白名单等功能。2.可视化运维：版本升级、故障切换等。3.可扩展性：多规格选配、弹性扩容。4.数据生态：打通云上各个数据源，方便...
基于弹性供应组构建大数据分析集群
场景描述 基于弹性供应组（APG）搭建spark计算集 群，提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本：跨售卖方式提供计算实 例，按秒计费，可全部使用spot实例 交付，最高可省90%成本。 2.稳定可靠：跨可用域、跨实例规格， 降低spot被集体释放的风险；自动托 管，分钟级巡检，动态保证集群的算 力。 3.快速交付：单次可在5分钟内交付 2000个实例。 4.多策略组合：可分别指定spot和按量 实例的交付策略，以及差额补足的策 略，包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一，无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张，无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
大规模，比如超过2000 台，请选择企业级安全组。文档版本：20200619 21 基于弹性供应组构建大数据集群分析 Spark集群搭建 类别 配置项 说明 访问规则 入方向 spark master需要开放 7077、8080和 18080 端口。2.返回创建 ECS页面，选择刚创建的安全组。文档版本：20200619 22 基于弹性供应组构建大数据集群分析 Spark集群...
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
ACK：容器服务 ACK（Alibaba Cloud Container Service for Kubernetes）提供高 可性能可伸缩的容器应用管理服务，支持企业级 Kubernetes容器化应用的生命周 期管理。容器服务 ACK简化集群的搭建和扩容等运维工作，整合阿里云虚拟化、存储、网络和安全能力，打造云端最佳的 Kubernetes容器化应用运行环境。弹性容器实例 ECI...
全域采集与增长分析Quick Tracking
全域采集与增长分析（Quick Tracking）是阿里云推出的应用数据采集及分析产品，为运营、BI、产品和决策层提供一站式数据化运营服务：通用的多维度用户行为分析、自助分析功能、数据无缝对接其他大数据产品，助每个企业实现基于大数据技术的精细化运营能力。
数据采集稳定、准确.-10余种分析模型满足日常灵活分析需求-拖拽式搭建看板，让业务分析有逻辑，懂增长-秒级查询体验，多场景分析洞察更高效.多维分析有逻辑.-一站式提供开发、产品等角色行为数据和性能数据洞察-提供App、Web、小程序性能监控与告警能力-挖掘业务增长与用户体验间微妙变化.性能监控保障用户体验.移动DevOps....
来自：
云产品
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
文档版本：20211203 24 SLS多云日志采集、处理及分析 Logtail日志采集处理分析 注意：查询分析设置的修改操作只会对新写入的数据生效，如果您需要提前对查询分 析设置的某些字段分析统计生效，请使用指定字段查询的自定义方式在日志写入到日 志库之前进行开启统计查询。步骤4 再次启动日志发生器和停止日志发生器。按云...
消费者资产运营分析解决方案
阿里云消费者资产运营分析解决方案是以数据中台为底座的消费者资产运营分析解决方案，依靠AIPL和FAST等消费者资产运营方法论，与阿里巴巴各业务平台及数据银行打通联动，解决品牌商家以前营销活动与销售转化、广告投放到店内引流、用户购买追踪与再触达等环节难以形成闭环的痛点，支撑全域的消费者营销运营。
以数据中台为基座，与全渠道O2O、会员管理CRM、营销管理一方DSP整合形成消费者资产运营分析平台核心应用，并与阿里巴巴天猫旗舰店、品牌号、轻店铺、消费者运营平台CEM等系统业务互通，同时集成外部三方数据和企业内部数据，沉淀各类社交工具、手机App和品牌官网商城等前端消费者触达数据；其中的Quick Audience模块可以一...
来自：
解决方案
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
基于 MaxCompute的大数据 BI分析 最佳实践 场景描述 业务架构 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做 ETL之后，同步到 Hologres进行实时分 析，之后通过 Quick BI进行快速可视化展示。解决问题 1.互联网行业、电商、游戏行业等网站、App、小程 序应用内 BI分析场景。2.可扩展到各类网站 BI分析场景...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测实践 业务架构 场景描述 数据湖和数据仓库是当前大数据技术条件下构建分布式系 统的两种数据架构设计取向，数据湖偏向灵活性，数据仓 库侧重成本、性能、安全、治理等企业级特性。但是数据 湖和数据仓库的边界正在慢慢模糊，数据湖自身的治理能 力、数据仓库延伸到外部...
光伏逆变器出海和运维提效
阿里云物联网平台的光伏智能运维算法，通过采集光伏逆变器的数据，识别光伏阵列中的故障、发现可能的发电低效站点并及时预警，提醒电站运维人员及时排查解决问题，降低运维成本。提供全球运营商的物联网卡流量资源，全球8大服务地域的物联网平台，实现光伏逆变器出海和运维提效。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情技术解决方案咨询我们将根据您提交的需求，安排技术解决方案专家为您服务！立即咨询
来自：
解决方案
光伏逆变器出海和运维提效
阿里云物联网平台的光伏智能运维算法，通过采集光伏逆变器的数据，识别光伏阵列中的故障、发现可能的发电低效站点并及时预警，提醒电站运维人员及时排查解决问题，降低运维成本。提供全球运营商的物联网卡流量资源，全球8大服务地域的物联网平台，实现光伏逆变器出海和运维提效。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情技术解决方案咨询我们将根据您提交的需求，安排技术解决方案专家为您服务！立即咨询
来自：
解决方案
E-MapReduce Serverless StarRocks 版
E-MapReduce Serverless StarRocks版简称EMR StarRocks，是阿里云提供的全托管服务，内核100%兼容StarRocks，性能比传统OLAP引擎提升3-10倍，助力企业高效构建湖仓分析、高并发查询及实时分析等大数据应用。
构建企业级全托管免运维的云原生湖仓统一分析服务.向量化执行引擎、SIMD 指令集、CBO 优化器、全新 Pipeline 执行引擎，高效实时数据写入与更新，较传统 OLAP 性能提升 3~10 倍.全场景高性能.一套系统解决多维分析、万级高并发查询、实时查询分析等场景，根据业务实时性要求统一管理数据仓库和数据湖，并提供多种数据模型....
来自：
云产品
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
2023-09-11阿里云数据库 SelectDB 版内核 Apache Doris 2.0 如何实现导入性能提升 2-8 倍SelectDB 是飞轮科技基于 Apache Doris 内核打造的聚焦于企业大数据实时分析需求的企业级产品。因此阿里云数据库 SelectDB 版也延续了 Apache Doris 性能优异、架构精简、稳定可靠、生态丰富等核心特性，同时还融入了云服务随需而用的...
来自：
云产品
E-MapReduce Serverless Spark 版
E-MapReduce Serverless Spark 是阿里云 E-MapReduce 基于 Spark 提供的一款全托管、一站式的数据计算平台。它为用户提供任务开发、调试、发布、调度和运维等全方位的产品化服务，显著简化了大数据计算的工作流程，使用户能更专注于数据分析和价值提炼。
内置版本管理、开发与生产隔离，满足企业级开发与发布标准.一站式的开发体验.开箱即用，无需手动管理和运维云基础设施；弹性伸缩，秒级资源弹性与供给；按量付费，按实际计算资源量付费，进一步降低计算总成本.Serverless 的资源平台.图片56*56(不可与icon共存）.图片logo.icon名称(不可与图片logo共存）.icon名称.不填写不...
来自：
云产品
海量共享设备安全高效运维
针对设备规模大、地理分布广泛、业务实时性要求高的共享设备，提供安全高效的设备管理运维。本方案基于阿里云物联网平台，搭配物联网卡的上网能力，由IoT安全运营中心为设备提供全方位的安全防护，保障共享设备的高可用接入和安全高效运维。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情物联网平台设备数据上云物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入...
来自：
解决方案
海量共享设备安全高效运维
针对设备规模大、地理分布广泛、业务实时性要求高的共享设备，提供安全高效的设备管理运维。本方案基于阿里云物联网平台，搭配物联网卡的上网能力，由IoT安全运营中心为设备提供全方位的安全防护，保障共享设备的高可用接入和安全高效运维。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情物联网平台设备数据上云物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入...
来自：
解决方案
物联网平台设备数据上云
物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入与处理。提供了多种类型设备的稳定接入、安全防护、实时监控，满足企业一站式管理设备、处理数据的需求。具有高可用、高并发、低成本的优势。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情海量共享设备安全高效运维针对设备规模大、地理分布广泛、业务实时性要求高的共享设备，...
来自：
解决方案
物联网平台设备数据上云
物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入与处理。提供了多种类型设备的稳定接入、安全防护、实时监控，满足企业一站式管理设备、处理数据的需求。具有高可用、高并发、低成本的优势。
提供全托管的企业级实例服务，无需自建物联网基础设施即可实现车辆数据安全可靠上云，同时通过对车辆数据的分析，帮助企业快速实现设备数据和业务数据的融合，实现车辆智能化升级。具有低成本、高可靠、高性能、高安全等优势。查看详情海量共享设备安全高效运维针对设备规模大、地理分布广泛、业务实时性要求高的共享设备，...
来自：
解决方案
- 产品推荐
- 这些文档可能帮助您