通过OpenStore智能混合存储实现海量数据存储
OpenStore存储引擎是阿里云Elasticsearch团队针对日志场景自研的弹性、高效、低成本的日志存储引擎，支持自定义冷热存储与智能混合存储版本，智能混合存储可突破传统冷热分离架构，大幅降低集群数据接...，进一步降低云上海量数据的存储成本...
通过OpenStore自定义冷热存储实现海量数据存储
本文介绍使用OpenStore自定义冷热存储实现海量数据存储的方法。背景信息 在日志全观测场景下，通常因为业务场景或监管需求，需要长时间存储数据或归档审计。在使用开源Elasticsearch的过程中，需要进行集群冷热数据分离，将30天或者更长...
实时数据API
业务数据及日志数据可以直接调用实时数据API接口，实时写入数据，再由Hologres提供高性能的计算服务和海量数据的存储服务。数据处理流程如下图所示。整个业务链路中，您无需导入导出数据，写入的数据统一存储在Hologres中，无冗余存储，...
方案背景
传统的方案采用关系型数据库加文件系统的方式实现这类气象数据的存储和实时查询。传统方案在可扩展性、可维护性和性能上都有缺陷，并且随着数据规模的增大，缺点越来越明显。表格存储是一款阿里云自研的分布式NoSQL服务，可以提供超大规模...
通用数据开发
数据收集与存储：您需要同步不同业务系统的数据至MaxCompute中，方可通过MaxCompute的海量数据存储与处理能力分析已有的数据。DataWorks提供数据集成服务，可以支持多种数据源类型，根据预设的调度周期同步业务系统的数据至MaxCompute。...
快速玩转Tablestore入门与实战
可以轻松满足IoT设备、监控系统等时序数据的存储需求，大数据分析SQL直读以及高效的增量流式读接口让数据轻松完成离线分析与实时流计算。基于Tablestore的一站式物联网存储解决方案-场景篇 基于Tablestore的一站式物联网存储解决方案-表...
方案设计
本章节主要为您介绍基于表格存储的海量气象格点数据解决方案的模型及方案设计。标准化格点数据模型 一个规整的五维网格数据为一个网格的数据集（GridDataSet），按照维度顺序五维分别为：维度 说明 variable 变量，例如各种物理量 time ...
数据操作篇
OSS 是阿里云提供的开放存储服务，用以应对海量数据的存储和访问。OSS 的存储单价比表格存储更低，更适合存储文件。如果应用程序不方便使用 OSS，可以将超过 2 MB 的单个值拆分成多个行，存储在表格存储中。错误重试加入时间间隔 表格存储...
典型场景
大数据分析平台 对于MaxCompute、Hadoop和Spark中保存的海量数据，可通过采用数据集成服务（DataX）或通过对象存储服务（OSS），快速批量导入到 云原生数据仓库AnalyticDB PostgreSQL版，帮助您实现高性能分析处理和在线数据探索。...
常见问题
表格存储 单表提供PB级数据存储规模，无需分库分表，同时支持千万QPS，可以轻松满足IoT设备、监控系统等时序数据的存储需求，大数据分析SQL直读以及高效的增量流式读接口让数据轻松完成离线分析与实时流计算。表格存储 提供了各个场景下的...
核心优势
同时，增强版也提供 全文索引服务介绍，智能集成搜索引擎Solr，提供面向海量数据的存储、多维查询、全文索引等统一访问的混合型能力。多租户 内置面向多租户的数据安全和资源隔离能力，提供标准的用户名密码认证、ACL、Quota、Resource ...
表格存储
物联网 表格存储可以满足IoT设备、监控系统等时序数据的存储需求，大数据分析SQL直读以及高效的增量流式读接口让数据完成离线分析与实时流计算。性能 表格存储单表提供10 PB级数据量、万亿条记录数、千万级别的TPS以及毫秒级延迟的服务能力...
收钱吧订单查询&搜索
云数据库Lindorm提供了海量的数据存储，百亿数据毫秒级的实时查询性能，高级专家的耐心解答和护航，每年节约近百万元成本。客户简介 收钱吧，隶属于 上海收钱吧互联网科技股份有限公司，是中国移动支付服务商领军者，致力于用网络和数据的...
常见问题
教育行业：K12、在线英语等在线教育，将数据存储到OSS，结合OSS传输加速或CDN加速产品，实现海量数据的存储以及内容分发方案。AI/物联网：自动驾驶、物联网等场景。自动驾驶将采集的训练数据通过闪电立方采集与迁移到OSS。物联网家庭视频...
某新能源汽车造车新势力
客户感言 阿里 云原生多模数据库 Lindorm 相比于其他存储引擎和HBase开源版本，提供了更高效的压缩率和同规格下的更大吞吐量，能稳定的支撑高并发、海量数据存储的业务需求。同时提供了成熟的冷热分离方案，大大降低了存储和运维成本，对于...
客户案例
MaxCompute对于海量数据的存储、运维、计算能力强大且安全稳定。MaxCompute服务将原本需要清算8小时的用户交易数据缩短至1.5小时，同时减少了本地服务器部署压力，在显著提升工作效率的同时减少了大量开发成本和人力成本，使开发人员能更...
高压缩引擎（X-Engine）介绍
当业务数据的存储空间达到一定规模（几百GB或几百TB），在集群整体性能可控范围内，用户能明显地享受到降本红利。适用场景 PolarDB 高压缩引擎（X-Engine）提供了超大存储容量，它可以同时作为多个业务历史数据的汇聚地，以方便对所有历史...
产品优势
全文检索 智能集成搜索引擎Solr，提供面向海量数据的存储、多维查询、全文索引等统一访问的混合型能力，请参见 全文索引服务。不支持 性能 吞吐性能 单机吞吐是开源HBase的7倍，请参见 测试结果。无优化 请求毛刺 P99延迟是开源HBase的1/10...
MongoDB 分片集群介绍
MongoDB分片集群技术用于解决海量数据的存储问题，本文介绍MongoDB分片集群相关的常用知识。什么情况下使用分片集群？当您遇到如下问题时，可以使用分片集群解决：存储容量受单机限制，即磁盘资源遭遇瓶颈。读写能力受单机限制，可能是CPU...
方案背景
订单系统存在于各行各业，例如电商订单、银行流水、运营商...数据量：存储海量数据的同时，满足强一致、高可用、低成本等要求。服务性能：应对高并发请求高并发的同时，保证低延迟。其中，多维、实时查询功能是订单管理解决方案的核心功能。
深度解析Lindorm搜索索引（SearchIndex）特性
背景 在海量数据存储的背景下，伴随着云原生、5G/IoT时代的到来，新的业务模型在不断涌现，除了简单的主键查询和范围查询外，简单分析、多维检索成为业务的基本需求。常见的一些查询需求如下：多维查询。即席查询(adhoc)，一般是不固定的列...
产品优势
依赖外部组件，复杂 支持，但数据非强一致 多维检索 与搜索引擎LindormSearch智能集成，支持海量数据的存储、多维查询、全文检索等统一访问能力，详情请参见 搜索索引介绍。不支持 不支持 性能 吞吐性能 单机吞吐是开源HBase的7倍，详情请...
使用MongoDB存储日志数据
使用Capped集合：如果对日志保存的时间没有特别严格的要求，只是在总的存储空间上有限制，则可以考虑使用capped collection来存储日志数据。指定一个最大的存储空间或文档数量，当达到阈值时，MongoDB会自动删除capped collection里最老的...
敏感数据保护
通过内置算法规则和敏感数据识别规则，对OSS存储的海量数据进行扫描、分类和分级。您可以根据扫描结果做进一步的安全防护，例如通过 加密、设置访问权限 等方式对数据进行安全审计或保护，从而满足数据安全、个人信息保护等相关法规的合规...
X-Engine简介
因为目标是面向大规模的海量数据存储，提供高并发事务处理能力和降低存储成本，在大部分大数据量场景下，数据被访问的机会是不均等的，访问频繁的热数据实际上占比很少，X-Engine根据数据访问频度的不同将数据划分为多个层次，针对每个层次...
概述
专用数据仓库场景，依托PolarDB分布式版提供的海量数据存储能力，汇聚多个上游数据源，将其作为专用数据仓库使用；ETL计算场景：依托PolarDB分布式版基于列存索引提供的强大而灵活的计算能力。PolarDB分布式版结合列存索引特性，其优势不...
列存索引（IMCI）发布说明
专用数据仓库场景：依托 PolarDB 提供的海量数据存储能力，汇聚多个上游数据源，将其作为专用数据仓库使用；ETL数据加速计算场景：依托 PolarDB 基于列存索引提供的强大而灵活的计算能力，在 PolarDB 中使用SQL来实现ETL功能。性能提升情况...
概述
专用数据仓库场景：依托 PolarDB 提供的海量数据存储能力，汇聚多个上游数据源，将其作为专用数据仓库使用；ETL数据加速计算场景：依托 PolarDB 基于列存索引提供的强大而灵活的计算能力，在 PolarDB 中使用SQL来实现ETL功能。性能提升情况...
产品系列
OceanBase 关系型数据库（关系型+SQL）的基础上发展而来，共享存储、共享生态，为用户提供更加简单高效的非关系型 API 接口，支持多种非关系型数据模型的存储与处理，充分发挥 OceanBase 一体化架构的优势，满足用户不同场景下数据的多样性...
赛盒广告精细化管理方案
海量历史数据的存储需求 每位用户的广告数据存储在独立的物理库中，部分用户单张表每年将存储超过1亿行的记录，如果历史数据保留一年，300位用户一年预计产生18TB的数据。对数据库的实时、高速查询能力需求 用户通过仪表板实时了解广告的...
产品架构
按照传统方案，为了满足多种类型数据的存储、查询和分析需求，在设计IT架构时，需要针对不同种类的数据，采用不同的存储分析技术，如下图：这种技术方案，是一种典型的技术碎片化的处理方案。针对不同的数据，使用不同的数据库来处理。有...
应用场景
大数据存储与分析 传统的数据分析场景下，用户需要把数据从在线数据库（Operational Database）复制到离线数据仓库（Data Warehouse）上之后再进行数据分析，这需要海量数据的多次复制、传输、加载和存储等多方面工作。HybridDB for MySQL...
基本介绍
背景信息 云数据库HBase增强版是由 云原生多模数据库Lindorm宽表引擎 提供的、完全兼容HBase的云上托管数据库，从2011年开始云数据库HBase增强版正式承载阿里内部业务的海量数据实时存储需求，支撑服务了淘宝、支付宝、菜鸟、优酷、高德等...
应用场景
网页或者移动应用的静态和动态资源分离 利用海量互联网带宽，OSS可以实现海量数据的互联网并发下载。OSS提供原生的 传输加速 功能，支持上传加速、下载加速，提升跨国、跨洋数据上传、下载的体验。同时，OSS也可以结合CDN产品，提供静态...
概述
特性介绍 低存储成本 数据压缩是降低海量数据存储空间的关键手段。OceanBase 通过 LSM-Tree 的存储架构和自适应压缩技术，解决了传统数据库无法平衡“性能”和“压缩比”的难题，同一业务的存储量仅为 Mysql/Oracle 的 1/4 到 1/3可降低...
现代IM系统中的消息系统—模型
支撑海量数据存储：对于消息存储库来说，如果需要消息永久存储，则随着时间的积累，数据规模会越来越大，需要存储库能应对长时间积累的海量消息数据存储，需要能达到PB级容量。低存储成本：消息数据的冷热区分是很明显的，大部分查询都会...
时序分析存储概述
核心优势 海量数据的实时分析 对于时序的热数据采用 表格存储 行列混合的宽表存储，提供海量数据的实时自增写、覆盖和查询；对于时序全量历史数据采用列存储，当对数据进行查询或者分析时只读取所需的列数据，从而提高查询效率和数据处理...
基本概念
为了进一步提高效率，云数据库ClickHouse 将海量数据分散存储到多台服务器上，每台服务器只存储和处理海量数据的一部分，在这种架构下，每台服务器被称为一个分片（Shard）。副本（Replica）为了在异常情况下保证数据的安全性和服务的高...
功能特性
数据库文件存储 功能集 功能 功能描述 参考文档 DBFS特性 原子写 支持DIRECT IO的原子写，需按4K，8K，16K对齐-共享读写 一份数据可共享式多点挂载并进行读写，读写可线性扩展-存储加密 通过对数据库文件存储实施加密，可以确保数据库文件...
数据存储生命周期管理
生命周期管理策略 热存储数据至少需保存7天才能转换为低频存储，当数据的存储时间超过配置的 热存储层数据保存 时间后，数据自动由热存储转为低频存储。热存储数据至少需保存30天才能直接转换为归档存储，当数据的存储时间超过配置的 热...
- 产品推荐
- 这些文档可能帮助您