应用场景
数据存储：长期保存车辆轨迹信息以及车辆状态信息，需要单表规模极大以及高性价比存储。实时地理围栏：实时数据的地理围栏报警，需要支持对接实时计算进行实时数据统计分析。海量车辆管理：海量车辆的诸多状态信息的数据管理与查询分析，...
存储格式与SerDe
STORED AS JSON 数据文件的存储格式为JSON（Esri ArcGIS的地理JSON数据文件除外）。通过 STORED AS 指定文件格式的同时，还可以根据具体文件的特点，指定SerDe和特殊列分隔符等，详细地使用方法将在各类型文件格式示例中为您讲解。
数据存储
时序数据存储 时序数据库对时序数据的写入、聚合以及检索都做了特定优化，AnalyticDB采集到的时序数据主要存在时序数据库中。目前每个AnalyticDB实例有一个独立的时序数据库进行服务，只保存当前AnalyticDB实例的时序数据。日志数据存储 ...
物联网设备数据上云存储
本文介绍如何使用阿里云物联网平台和 TSDB 进行数据打通，实现物联网设备系统的开发和管理、数据采集、数据上报、数据存储和分析的一体化方案，构建智能物联网平台。架构参考“物联网平台+TSDB”方案的实现架构如下：物联网设备通过 IoT ...
按扫描量付费
然后将GZIP格式的数据分区存储，将待扫描的数据存储在同一个分区中。DLA只扫描一个分区，扫描的数据量降低至0.2 TB。将1 TB的JSON文件转换为ORC格式，DLA只需按列扫描其中10%的数据，扫描的数据量降低至0.1 TB。经过数据格式转换、压缩和...
方案背景
因此车联网场景下车辆轨迹数据存储与分析的需求如下：数据存储：车辆轨迹数据会随着时间动态变化，要长期保存车辆轨迹信息，需要单表规模极大以及高性价比存储。数据写入：面向众多车辆，需要支持百万级节点实时写入。数据检索：根据多个...
Serverless存储层
实时数据存储在热存储（SSD）上，保证超低延时的写入和查询性能，可提供行级数据实时性。全量数据以微分区（Micro Partitions）的形式存储，大幅度优化传统数仓中出现的IO放大和写放大的问题，提供高吞吐的读写能力。同时，利用OSS和PANGU...
通过控制台投递数据到OSS
通过表格存储控制台创建投递任务，将表格存储数据表中的数据投递到OSS Bucket中存储。前提条件 已开通OSS服务且在表格存储实例所在地域创建Bucket，详情请参见 开通OSS服务。说明 数据湖投递支持投递到和表格存储相同地域的任意OSS Bucket...
入湖基础操作
存储格式：选择数据在数据湖中的存储格式，目前支持Delta，Iceberg，Hudi，Parquet，ORC。数据湖存储位置：数据存储的OSS路径，入湖任务会自动创建此处填写的空文件夹来存储数据。分区信息：添加需要写入的分区信息。分区表达式：填写描述...
冷热分离介绍
冷热分离功能支持将冷热数据存储在不同的介质上，冷存储的存储类型为容量型存储，热存储的存储类型为标准型云存储、性能型云存储、本地SSD盘或本地HDD盘。冷存储的价格仅为标准型存储的20%，大大降低了存储成本。原理简介 在功能实现上，...
使用企业版功能
建议您将SQL审计日志导出并保存至本地后，再减少SQL洞察和审计数据存储时长。登录 DAS控制台。在左侧导航栏中，单击 实例监控。找到目标实例，单击实例ID，进入目标实例详情页。在左侧导航栏，单击 请求分析>SQL洞察和审计。在 SQL洞察和...
概述
若集群中某些库表的数据几乎没有更新、插入和修改操作，且读取频率非常低，如果您有降本需求，可以使用 PolarDB MySQL版 提供的冷数据归档功能，将这部分数据转存至低成本的OSS上存储，以降低数据存储成本。本章节介绍了冷数据归档方法、...
Transaction Table2.0概述
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
文件系统存储类型
应用场景 低频存储 Web内容管理 大多数Web内容管理系统主要用来承载各类数据的上传下载任务，例如WordPress、FTP服务、IIS内容管理等，后端通常使用共享文件系统作为数据存储。随着业务增长和时间推移，大量数据访问频率降低变为冷数据。...
方案背景
因此车联网场景下车辆元数据存储与分析的需求如下：数据存储：车辆元数据定时上报到数据网关并且转发到下游存储，需要支持大规模数据存储。数据更新：海量车辆元数据会频繁更新，需要支持数据高并发实时更新。数据检索：根据车辆的参数检索...
流式数据通道概述
热数据存储量会出现增长情况：在开启异步处理的场景下（Merge或Zorder），MaxCompute流式数据通道服务会对最近一小时写入的数据保存两份，一份为原始数据，一份为异步聚合后的数据，数据的存储量会有一定程度的冗余。冗余数据的保存周期...
功能概览
建议您将SQL审计日志导出并保存至本地后，再减少SQL洞察和审计数据存储时长。登录 DAS控制台。在左侧导航栏中，单击 实例监控。找到目标实例，单击实例ID，进入目标实例详情页。在左侧导航栏，单击 请求分析>SQL洞察和审计。在 SQL洞察和...
ODS层设计规范
数据存储及生命周期管理规范 数据表类型 存储方式 最长存储保留策略 ODS流水型全量表 按天分区 不可再生情况下，永久保存。日志（数据量非常大，例如一天数据量大于100 GB）数据保留24个月。自主设置是否保留历史月初数据。自主设置是否...
备份集下载功能概览
数据库备份DBS 为云数据库、ECS自建数据库提供灵活的备份与恢复功能，同时也支持将云上备份集下载到本地，进一步增强数据的安全性。您可通过手动或自动模式进行数据下载，下载的备份集可用于恢复到本地数据库、Excel分析与审计、备份到本地...
配置自动下载备份集
全量数据 支持如下数据库引擎：MySQL SQL Server MariaDB PostgreSQL Oracle MongoDB 说明 MongoDB的数据格式为 json，其余的数据格式均为 CSV。支持如下数据库引擎：MySQL SQL Server 说明 MySQL的数据为Xtrabackup产生的数据格式，并进行...
概述
适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。更多信息，请参见 什么是表格存储。云原生大数据计算服务（MaxCompute）是一...
成本
在此基础之上，AnalyticDB PostgreSQL版 进一步提供了存储压缩能力、OSS外表存储能力和共享存储格式、存储分层等能力，满足用户在不同场景的需求。存储压缩 AnalyticDB PostgreSQL版 列式存储形态支持存储空间压缩能力。用户在建表时，针对...
时序模型
时序表操作 使用 表格存储 时序模型时，您需要使用 CreateTimeseriesTable 接口创建时序表用于时序数据存储。具体操作，请参见 创建时序表。创建时序表后，您可以管理时序表。具体操作说明请参见下表。功能 描述 列出时序表名称 当需要查看...
时序模型
时序表操作 使用 表格存储 时序模型时，您需要使用 CreateTimeseriesTable 接口创建时序表用于时序数据存储。具体操作，请参见 创建时序表。创建时序表后，您可以管理时序表。具体操作说明请参见下表。功能 描述 列出时序表名称 当需要查看...
整体架构
为满足不同场景需求，首先将一份全量数据存储在低成本高吞吐存储介质中，低成本离线处理场景直接读写低成本存储介质中的数据，可降低数据存储和数据IO成本，保证高吞吐。其次将实时数据存储在单独的存储IO节点（EIU）上，保证行级的数据...
冷热分层存储
并不是所有OSS-HDFS中存储的数据都需要频繁访问，但基于数据合规或者存档等原因，部分数据仍然需要继续保存。针对以上问题，OSS-HDFS服务支持数据的冷热分层存储，对于经常需要访问的数据以标准类型进行存储，对于较少访问的数据以低频、...
产品优势
Spark与 AnalyticDB MySQL版 的计算资源、数据存储深度集成。您可以使用Serverless Spark通过按需弹性计算资源进行低成本离线处理，将数据直接写入到内部存储中供在线分析使用。开放存储 湖仓版（3.0）支持低成本的近实时批量更新数据格式...
DAS企业版介绍
开通DAS企业版后，默认的 数据存储时长 为1个月，您可以根据自己的需要进行修改，具体请参见 管理DAS企业版。说明 SQL洞察 功能中分析和统计数据（不包括SQL明细数据）的存储时长最长为90天：如果对应实例DAS专业版设置的存储时长小于等于...
存储说明
本文介绍E-MapReduce集群中数据存储相关的信息，包括磁盘角色、云盘与本地盘，以及OSS。背景信息 关于存储的类型、性能和相关的限制信息，请参见 什么是块存储。存储价格估算如下：本地盘实例存储为0.04 元/GB/月 OSS标准型存储为0.12 元/...
范围选择器功能介绍
其他类型：如果您不需要系统自动生成API链接的数据格式，您可以选择 其他类型 中以具体GeoJSON数据内容或者范围数据图形的类型格式保存到本地。单击具体数据内容右侧的 图标，即可复制所选区域的所有GeoJSON数据内容；单击数据内容最右侧的...
数据集成概述
网络连通：支持单地域内及部分跨地域的数据存储相互同步、交换的数据同步需求。部分地域之间可以通过经典网络传输，但不能保证其连通性。如果测试经典网络不通，建议您使用公网方式进行连接。数据传输：数据集成仅完成数据同步（传输），...
范围选择器功能介绍
其他类型：如果您不需要系统自动生成API链接的数据格式，您可以选择 其他类型 中以具体GeoJSON数据内容或者范围数据图形的类型格式保存到本地。单击具体数据内容右侧的 图标，即可复制所选区域的所有GeoJSON数据内容；单击数据内容最右侧的...
宽表模型介绍
宽表模型通过数据表存储数据，单表支持PB级数据存储和千万QPS。数据表具有Schema-Free、宽行、多版本数据以及生命周期管理特点，支持主键列自增、局部事务、原子计数器、过滤器、条件更新等功能。模型介绍 表格存储 宽表模型是类Bigtable/...
高压缩引擎（X-Engine）介绍
随着业务发展，数据库系统中会积累大量访问频率很低甚至为0的数据，这些数据的积累容易导致如下问题：历史数据和最新数据存储在同一数据库系统中，导致磁盘空间不足。大量数据共享数据库系统的内存、缓存空间、磁盘IOPS等，导致性能问题。...
数据格式描述文件
Ingestion Spec（数据格式描述）是Druid对要索引数据的格式以及如何索引该数据格式的一个统一描述，它是一个JSON文件，一般由三部分组成。{"dataSchema":{.},"ioConfig":{.},"tuningConfig":{.} } 键 格式 描述 是否必须 dataSchema JSON...
存储类型概述
对象存储OSS提供标准、低频访问、归档、冷归档、深度冷归档多种存储类型，全面覆盖从热到冷的各种数据存储场景。说明 各存储类型的定价，请参见 OSS产品定价。各存储类型的计费方式，请参见 存储费用。标准存储（Standard）提供高可靠、高...
产品架构
并且随着业务的发展，数据的类型会越来越多，对不同种类数据的差异化处理需求会日渐增加，会导致数据存储碎片化更加严重。当前信息化技术发展面临的一个主要矛盾是"日益多样的业务需求带来的多种类型数据与数据存储技术架构日趋复杂成本...
概述
以下是常见的应用场景：数据存储与计算安全场景：在不可信环境中（如第三方平台），Spark全密态计算引擎 可以为关键的数据分析应用（如投资和财务分析）提供数据保护，保证用户数据在存储与计算过程中的安全，降低明文数据泄露风险。...
JindoFS介绍和使用
Cache模式和Block模式对比 两种模式都把数据存储在OSS上，同时根据本地缓存空间剩余情况确定是否在本地也放置一份以用于缓存加速。两种模式的本质区别在于，块存储模式可以管理目录和文件元数据，文件是分成多个块存储在OSS上，所以写到OSS...
方案设计
数据存储方案 表格存储设计了两张表分别存储数据集的meta和data：meta表示这个数据集的元数据，例如GridDataSetId、各维度长度、自定义属性等。data表示这个数据集里实际的网格数据。data相比meta在数据大小上要大很多。将数据集的meta和...
- 产品推荐
- 这些文档可能帮助您