使用多机MPP对海量数据分析提速
随着用户查询数据量、查询复杂度以及对OSS等外部表的查询需求的增加，单个只读列存节点已无法满足海量数据场景下的性能需求。因此，IMCI提供了多机并行执行能力和资源弹升能力。技术架构 列存索引多机并行执行技术架构如下：列存索引多机...
实时分析海量MaxCompute数据
本文为您介绍交互式分析Hologres如何实时查询海量MaxCompute数据，并以可视化方式分析和展现查询结果的最佳实践。前提条件 开通MaxCompute，详情请参见 开通MaxCompute。说明 请确保MaxCompute和Hologres的地域相同。开通Hologres并连接至...
导出数据
分析型数据库MySQL版对海量数据分析计算后支持输出（DUMP）数据结果，目前支持两种DUMP方式：导出数据到OSS 导出数据到MaxCompute
2021年7月29日 V3.13.0产品更新
2021年7月29日 V3.12.0产品更新，...情绪分析功能 通过海量数据分析客服对话过程中客户、客服的情绪变化趋势，挖掘服务中的热词，功能包含：复核详情页优化 优化复核详情页展示效果，突出显示当前命中的query内容，每个检测项上显示扣分情况；
未来规划
数据处理与分析：海量数据分析在线化（实时在线交互式分析）。如何对海量数据进行在线分析和计算，支持实时在线交互式分析，需要做并行处理（DSP 模型、MPP 模型等等），对并行调度计算进行优化。系统能力提升：智能化+安全（使用方便可靠...
什么是云数据库SelectDB版
云数据库SelectDB版 是新一代实时数据仓库 SelectDB 在阿里云上的全托管服务，您可以在阿里云上便捷地购买 SelectDB 数仓服务，满足海量数据分析需求。产品优势 高性价比 高性能：支持亚秒级响应海量数据查询、万级高并发点查询以及高吞吐...
数据分析整体趋势
近些年来，随着业务数据量的增多，企业需要能够对数据进行分析，助力商业决策，更好地发挥数据价值，而传统开源及商业关系型数据库通常为单机版，在海量数据分析场景下扩展能力有限，性能无法满足需求。以Teradata，Oracle Exadata为代表的...
使用说明
具体操作请参见 使用多机MPP对海量数据分析提速。其他 如果您对列存索引背后的原理感兴趣，您可以参考以下文档来进一步了解列存索引：PolarDB IMCI发表在 SIGMOD2023上的论文 列存索引技术白皮书 列存索引技术架构介绍 列存索引中TopK算子...
面临的业务挑战
传统的批处理模式往往有数小时甚至数天的延迟，不能满足T+0的业务需要，用户要求在秒级，甚至毫秒级完成对海量数据分析。系统极复杂 大数据平台普遍存在使用复杂的问题。用户希望专注于核心业务，而非底层技术。用户希望使用的是“开箱即用...
2024年
什么是DTS Serverless实例 新增 新增支持将 PolarDB MySQL版 集群的数据同步或迁移到SelectDB，以满足您的海量数据分析需求。PolarDB MySQL版同步至云数据库SelectDB版 PolarDB MySQL版迁移至云数据库SelectDB版 新增 新增支持SQL Server ...
什么是Quick BI
高性能海量数据分析 基于自研可控的多模式加速引擎，通过预计算、缓存等方式，实现亿级数据查询秒级获取。权威认证的可视化 40多种可视化组件、联动钻取等交互能力，数据故事构建能力、动态分析、行业模板内置，让数据分析高效、美观。移动...
AnalyticDB MySQL助力Flowerplus业务高速发展
基于 AnalyticDB MySQL 快速分析海量数据的结果，优化用户的采购环节、订单分析、营销活动、业务报警等重要业务，助力Flowerplus业务快速发展的同时，为未来业务发展提供足够的扩展性。业务痛点 Flowerplus（花加）的业务主要涉及鲜花采购...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
应用场景
阿里云Elasticsearch具有广泛的应用场景，包括日志分析与运维全观测、信息...还能借助Kibana，完成业务数据的统计分类以及大盘的搭建，从而在电子商务、移动应用、广告媒体等多个场景下，高效统计并分析海量数据，深入挖掘业务的数据价值。
低成本历史库
大数据生态 无缝对接Spark、Hive、Flink、Presto等开源大数据生态产品，支持API访问和文件读取等多种对接方式，简单高效满足用户海量数据分析需求。典型应用 用户交易记录通过App写入MySQL，LTS将MySQL中实时同步到Lindorm，近三个月状态...
低成本RDS历史库
大数据生态 无缝对接Spark、Hive、Flink、Presto等开源大数据生态产品，支持API访问和文件读取等多种对接方式，简单高效满足用户海量数据分析需求。典型应用 用户交易记录通过App写入MySQL，LTS将MySQL中实时同步到Lindorm，近三个月状态...
应用场景：低成本历史库
大数据生态 无缝对接Spark、Hive、Flink、Presto等开源大数据生态产品，支持API访问和文件读取等多种对接方式，简单高效满足用户海量数据分析需求。典型应用 用户交易记录通过APP写入MySQL，LTS将MySQL中实时同步到Lindorm，近三个月状态...
冷热分层
在数据湖架构设计中，通常会应用HTAP（Hybrid Transaction and Analytical Process）体系结构，通过合理地选择分层存储组件和计算引擎，既能支持海量数据分析和快速的事务更新写入，又能有效地降低冷热数据分离的成本。更多介绍请参见 结构...
机器学习
机器学习模块的具备以下优点：易用性好，入门门槛低，掌握SQL即可分析海量数据，让程序员，解决数据分析师轻松编程；轻量化程度高，面对复杂问题的解决方案选型时选择 云原生数据仓库AnalyticDB PostgreSQL版 即可，比如既要解决分类问题又...
Trino概述
应用场景 Trino是定位在数据仓库和数据分析业务的分布式SQL引擎，适合以下应用场景：ETL Ad-Hoc查询 海量结构化数据或半结构化数据分析 海量多维数据聚合或报表分析 重要 Trino是一个数仓类产品，因为其对事务支持有限，所以不适合在线业务...
2023年
云数据库MongoDB版同步至云原生多模数据库Lindorm 新增 新增支持将MySQL的数据同步或迁移到SelectDB，以满足您的海量数据分析需求。RDS MySQL同步至云数据库SelectDB版 RDS MySQL迁移至云数据库SelectDB版 优化 MySQL的数据同步或迁移至...
Presto概述
应用场景 Presto是定位在数据仓库和数据分析业务的分布式SQL引擎，适合以下应用场景：ETL Ad-Hoc查询 海量结构化数据或半结构化数据分析 海量多维数据聚合或报表分析 重要 Presto是一个数仓类产品，因为其对事务支持有限，所以不适合在线...
技术原理
PolarDB-X 1.0 由多个节点构成计算、存储内核一体化实例，在共用一份数据的基础上避免了ETL（Extract-Transform-Load）操作，实现了在线高并发OLTP联机事务处理以及OLAP海量数据分析，即HTAP。原理架构 MPP和只读资源 PolarDB-X 1.0 通过多...
PolarDB HTAP实时数据分析技术解密
在按列进行海量数据分析时，按行从磁盘读取数据存在非常大的IO带宽浪费，其次，行式存储格式在处理大量数据时会大量拷贝不必要的列数据，对内存读写效率也存在冲击。PolarDB 并行查询突破CPU瓶颈 PolarDB团队开发的并行查询框架（Parallel ...
通过OpenStore自定义冷热存储实现海量数据存储
本文介绍使用OpenStore自定义冷热存储实现海量数据存储的方法。背景信息 在日志全观测场景下，通常因为业务场景或监管需求，需要长时间存储数据或归档审计。在使用开源Elasticsearch的过程中，需要进行集群冷热数据分离，将30天或者更长...
通过OpenStore智能混合存储实现海量数据存储
本文介绍使用OpenStore智能混合存储实现海量数据存储的方法。背景信息 在日志全观测场景下，通常因为业务场景或监管需求，需要长时间存储数据或归档审计。在使用开源Elasticsearch的过程中，需要进行集群冷热数据分离，将30天或者更长时间...
功能特性
海量时空数据的快显分析能力 快速时空数据分析能力能够处理海量数据，并支持对千万级矢量数据进行可视化分析，帮助用户实时验证分析结果。内置地理统计分析能力 我们提供内置的地理统计分析功能，可以科学而专业地使用颜色、符号、宽度、...
湖仓一体新能力：EMR支持Hologres和MaxCompute数据源
MaxCompute 是适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您可以经济并高效...
教程概述
本文为您介绍当需要通过DataV展示海量数据的分析结果时，如何使用DataWorks的数据服务开发数据API，并快速在DataV中调用API，最终将来自MaxCompute的数据成果展示在DataV大屏中，数据开发到数据服务再到数据分析展现一气呵成。注意 本案例...
应用场景
数据分析：分析设备使用数据，及时发现异常并实现控制，需要支持对接计算引擎进行海量数据查询分析。工业物联网 在工业领域通过将物联网、感知控制、信息处理、网络通信等技术应用到工业生产过程的各个环节来提高企业生产效率、改进产品...
产品概述
云原生数据仓库 AnalyticDB PostgreSQL 版 是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。云原生数据仓库 AnalyticDB PostgreSQL 版 基于开源项目Greenplum构建，由阿里云深度扩展，兼容ANSI SQL 2003，兼容...
什么是DataV-Atlas可视分析地图
它支持快速展示和实时分析海量时空数据，并可以通过SQL分析工具对用户数据库中的空间数据进行多维度的灵活分析。该工具能够帮助用户快速构建自己的地理分析地图，挖掘时空数据的价值，并支持商业决策和科学研究等领域的应用。适用角色 数据...
数据上云场景
MaxCompute平台提供了丰富的数据上传下载工具，可以广泛应用于各种数据上云的应用场景，本文为您介绍三种经典数据上云场景。Hadoop数据迁移 您可使用MMA...具体场景示例请参见 Flume收集网站日志数据到MaxCompute 和 海量日志数据分析与应用。
什么是MaxCompute
MaxCompute是适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您可以经济并高效...
技术发展趋势
如果没有工具来分析这些海量数据，企业无法在商业智能表上留下大量有价值的数据。因此，“数据多模”需求被逐步提出。传统大数据技术可以满足此类需求，但其发散的技术栈，不统一的使用习惯，都难以在广大企业内落地使用。因此急需统一、...
创建MaxCompute数据源
适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您可以经济并高效地分析处理...
创建MaxCompute数据源
适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您可以经济并高效地分析处理...
如何对JSON类型进行高效分析
本文介绍了PolarDB IMCI为应对海量结构化与半结构化数据分析场景，通过整合列式JSON、虚拟列、秒级加减列、表列数扩展及列存索引等系列功能而构建出的扩展流计算方案，以及该方案的应用案例。背景 随着应用场景多样化与快速迭代，业务系统...
什么是数据管理DMS
AnalyticDB PostgreSQL版：云原生数据仓库AnalyticDB PostgreSQL版是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。OSS：对象存储服务OSS（Object Storage Service）是阿里云提供的海量、安全、低成本、高可靠的云...
DataWorks数据服务对接DataV最佳实践
DataV通过与DataWorks数据服务的对接，通过交互式分析Hologres连接DataWorks数据服务开发并生成API，快速在DataV中调用API并展现MaxCompute的数据分析结果。数据服务对接DataV产生背景 MaxCompute是阿里巴巴集团自主研究的快速、完全托管的...
- 产品推荐
- 这些文档可能帮助您