产品简介
湖管理，将为您提供对湖内数据存储的分析及优化建议，加强对数据生命周期管理，优化使用成本，方便您进行数据运维管理。应用场景 数据分析场景，通过元数据发现、数据探索能力，可以快速的对OSS内结构化、半结构化数据进行分析、探索。结合...
ActionTrail日志清洗
说明 根据业务需求，判断是否需要新建文件夹，将ActionTrail投递过来的数据存储在新建文件夹中。在DLA中完成以下操作：开通DLA服务，请参见 开通云原生数据湖分析服务。初始化DLA数据库主账号密码，请参见 重置数据库账号密码。步骤一：...
方案设计
数据存储方案 表格存储设计了两张表分别存储数据集的meta和data：meta表示这个数据集的元数据，例如GridDataSetId、各维度长度、自定义属性等。data表示这个数据集里实际的网格数据。data相比meta在数据大小上要大很多。将数据集的meta和...
功能特性
数据存储 功能集 功能 功能描述 参考文档 元数据存储 宽表模型 宽表模型（WideColumn）是类Bigtable/HBase模型，可应用于元数据、大数据等多种场景。宽表模型通过数据表存储数据，单表支持PB级数据存储和千万QPS。数据表具有Schema-Free、...
JindoFS块存储模式
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
更新分析存储的数据生命周期
当需要清理分析存储中的历史数据或者希望延长数据保存时间时，您可以使用UpdateTimeseriesAnalyticalStore接口更新时序分析存储的数据生命周期TTL配置。更新分析存储的TTL后，表格存储会自动异步清理分析存储中超过TTL的数据。前提条件 已...
更新分析存储的数据生命周期
当需要清理分析存储中的历史数据或者希望延长数据保存时间时，您可以使用UpdateTimeseriesAnalyticalStore接口更新时序分析存储的数据生命周期TTL配置。更新分析存储的TTL后，表格存储会自动异步清理分析存储中超过TTL的数据。前提条件 已...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
参数 描述 示例 所属数据目录 数据存储的数据库目录。default 数据库名称 目标数据库的名称。dlf_db 数据库描述 目标数据库的描述信息。湖仓一体 选择路径 OSS数据路径。格式为 oss:/名称>/目录名称>。oss:/doc-test-01/datalake/单击 确定...
表数据格式
数据存储分桶 为了进一步优化读写效率，Transactional Table 2.0支持按照BucketIndex对数据进行切分存储，BucketIndex数据列默认复用PK列，bucket数量可通过配置表属性 write.bucket.num 指定，因此对同一张表或分区的数据，写入数据会按PK...
对象存储OSS
存储类型 OSS提供标准存储、低频访问存储、归档存储、冷归档存储和深度冷归档存储多种存储类型，全面覆盖从热到冷的各种数据存储场景。存储类型 说明 标准存储 提供高可靠、高可用、高性能的对象存储服务，能够支持频繁的数据访问。适用于...
什么是OSS-HDFS服务
注意事项 警告 当您为某个Bucket开通OSS-HDFS服务后，通过该服务写入的数据将保留在OSS-HDFS的数据存储目录.dlsdata/下。为避免影响OSS-HDFS服务的正常使用或者引发数据丢失的风险，禁止以非OSS-HDFS提供的方式对目录.dlsdata/及目录下的...
数据归档
功能优势 开启RDS MySQL通用云盘的数据归档OSS功能后，借助OSS海量、安全、低成本、高可靠的特性，用户能够在RDS MySQL上实现极低成本的归档数据存储，在具备InnoDB事务能力之上支持低频的数据访问，数据存储成本相较于ESSD PL1云盘下降80%...
配置跨库Spark SQL节点
任务编排中的跨库Spark SQL节点，主要针对各类跨库数据同步和数据加工场景，您可以通过编写Spark SQL，完成各种复杂的数据同步或数据加工的任务开发。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、...
购买数据安全中心
OSS存储容量 指定需要 DSC 防护的OSS数据存储容量。可选范围：1,000~10,000,000 GB。日志存储 指定需额外购买的存储审计日志的存储空间容量。仅支持已选择 企业版 的用户选择该选项，基础版 不支持。可选范围：0~500 TB。您购买数据安全...
备份存储费用说明
例如：假设数据库数据量为100 GB，在进行快照备份后，修改了数据库中的10 GB数据，则：数据存储按照100 GB收费，快照备份存储按照10 GB收费；如果删除了该数据库，且保留其快照备份，则快照备份存储按照100 GB收费。存储包抵扣规则 使用...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版 14.9.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有存储数据，开启该...
混合存储型（已停售）
使用混合存储型，将所有课程信息存储到磁盘，访问量大的课程和题库数据存储到内存并常驻内存，保证高频访问数据的读写性能，实现高性能与高性价比的有机结合。典型业务场景的示例如下：场景1：使用开源Redis集群存储了100 GB的数据，但高峰...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版（兼容Oracle）2.0.14.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版（兼容Oracle）2.0.14.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有...
修改备份计划内的备份策略
如果您需要调整正在运行中的备份计划的备份策略，例如全量备份的频率、备份数据存储池或备份数据保留时间等配置项，您可以在该备份计划的备份策略页面中修改并使其生效。背景信息 备份策略提供了数据源在进行备份操作时（如全量备份、增量...
功能优势
为了让您对非结构化数据拥有更多的自主控制权，您可以把非结构化数据保存在OSS或者图片服务器上（下图使用OSS），非结构化数据的保存地址即URL存储在分析型数据库MySQL版中，整体架构如下所示。通过分析型数据库MySQL版控制台注册特征提取...
Redis持久化与备份恢复
Redis 持久化是指为了避免数据丢失，定期将数据存储到磁盘中。如遇 Redis 宕机或重启，能够利用磁盘中的持久化文件恢复数据。为满足各类场景下对备份与恢复的需求，云数据库 Redis 版 提供RDB持久化、AOF持久化和Tair-Binlog持久化策略。...
什么是数据库备份DBS
内置存储与用户OSS：DBS提供数据库的备份恢复能力，备份数据保存在云存储上，云存储支持内置存储、用户OSS。更多详情，请参见 内置存储与用户OSS。支持的数据库 请参见 支持的数据库引擎与功能。常见问题和故障处理 使用DBS时遇到的各类...
X-Engine最佳实践
迁移到X-Engine之后，很多业务可以免除分库分表的需求，使用单库即可承载近10 TB的数据存储服务。作为中国领先的电子商务服务提供商，用户体量庞大，阿里内部有非常多的在线业务承受非常大的存储成本压力。接下来为您介绍阿里巴巴集团内部...
设置数据保留策略
InfluxDB的数据保留策略可以定义数据在InfluxDB中保存时间，本文介绍如何设置数据保留策略。前提条件 已创建数据库。具体操作，请参见 创建数据库。数据保留策略介绍 InfluxDB可以通过定义数据保留策略，用来控制存储数据量的方式。新创建...
应用场景
通过选择HBase和OSS-HDFS，您可以将HBase的数据存储到湖上，并根据您的选择将HBase的WAL日志继续写入集群本地HDFS或OSS-HDFS。采用这种计算与存储分离的架构，可以减轻集群上的存储压力。一旦您的数据保存到湖上，恢复HBase集群将变得更加...
归档存储服务等级协议
阿里云服务具备自动数据备份功能，备份数量详见相关技术文档，备份数据默认与源数据存储在同一个数据中心。用户无需指定数据自动备份数量及自动备份数据所存储的位置。2.5.2.阿里云的数据中心将遵守当地的相关法律法规，用户对此具有知情权...
什么是对象存储OSS
数据存储到阿里云OSS以后，您可以选择标准存储（Standard）作为移动应用、大型网站、图片分享或热点音视频的主要存储方式，也可以选择成本更低、存储期限更长的低频访问存储（Infrequent Access）、归档存储（Archive）、冷归档存储（Cold ...
阿里云存储服务
其存储类型分为标准存储、低频访问存储、归档存储、冷归档存储、深度冷归档多种存储类型，全面覆盖从热到冷的各种数据存储场景。就价格而言，数据越冷，存储成本越低，需要时的访问成本越高。您可以轻松地在这些存储类型之间转换以优化存储...
表设计规范
表数据存储规范 按数据层规划数据的生命周期：源表ODS层：每天从业务系统同步过来的数据，全部保留，生命周期定义永久保存。当下游数据受损时，可以从ODS恢复数据。若ODS每天同步过来的是全量表，则可以通过全表拉链的方式来压缩存储。数据...
Catalog概述
外部数据：保存在外部数据源（例如，Apache Hive、Apache Iceberg和Apache Hudi）中的数据。Catalog StarRocks 2.3及以上版本支持Catalog功能，方便您轻松访问并查询存储在各类外部源的数据。当前StarRocks提供Internal Catalog和External ...
强一致分布式事务
另外，分布式数据库通常数据存储规模更大，对于备份恢复的一致性有更大的挑战。PolarDB-X 在存储节点（DN）的数据和变更日志中都保存了分布式事务的中心授时（包含了时间戳信息），任意时间点的数据恢复（PITR，point-in-time recovery）都...
监控与日志
文件系统资源数据监控 通过文件存储NAS控制台支持对文件系统实例的性能和容量进行数据监控。关于监控更多信息，请参见 监控项。性能监控数据 在 性能监控 页面，选择文件系统类型和目标文件系统ID，查看该文件系统的读写IOPS、读写延迟、...
Catalog概述
外部数据：保存在外部数据源（例如Apache Hive、Apache Iceberg和Apache Hudi）中的数据。Catalog StarRocks 2.3及以上版本支持Catalog功能，方便您轻松访问并查询存储在各类外部源的数据。当前StarRocks提供Internal Catalog和External ...
数据模型
数据时效（TTL）数据时效是指数据保存有效期，超过有效期的数据会被自动清理，默认数据有效期为永久保存。场景示例 某风力电厂包含一系列的智能风力发电机设备，创建名为 Wind-generators 的table来存储所有设备的信息，设备由 ID、型号、...
应用场景
文件存储 HDFS 版 适用于对吞吐要求较高的大数据分析与机器...将Hadoop或其他机器学习应用部署在多个计算资源上，这样应用可以直接通过HadoopFS接口访问数据进行离线或在线计算，也可以直接将计算结果输出到 文件存储 HDFS 版 做永久保存。
连续查询
创建数据库db_sensor_month，将原始数据存储在db_sensor_month中，数据有效期为30天。CREATE DATABASE db_sensor_month WITH(ttl=30);在数据库db_sensor_month中创建表sensor。USE db_sensor_month；CREATE TABLE sensor(device_id VARCHAR...
将MaxCompute数据同步到表格存储
适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。更多信息，请参见 什么是表格存储。云原生大数据计算服务（MaxCompute）是一...
创建逻辑模型：明细表
可以指定明细表后续在数据建模分析使用时，明细表的数据存储于数仓中的哪个数据分层，一般情况下明细表可存储于数据明细层（DWD层）。明细表创建后，您可以为明细表添加字段，且可以对明细表进行关联和分区的设置，并且可使用统一的数据...
高效数据治理实施指南
通过数据存储资源优化，可以有效地降低数据存储成本，提高数据存储的效率，控制数仓团队的数据成本。此外，存储资源优化还可以帮助企业更好地管理数据，提高数据的安全性和可靠性。步骤一：明确成本治理重点，规划数据治理工作 成本治理...
- 产品推荐
- 这些文档可能帮助您