Readable Protobuf
PolarDB MySQL版 支持Readable Protobuf功能，即针对存储在数据库中的经过Protobuf序列化的Blob类型的字段，您可以在对应的字段上配置Protobuf schema，并通过可视化函数 PROTO_TO_JSON(blob_field)来读取数据。同时，您也可以使用 JSON_...
概述
适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。更多信息，请参见 什么是表格存储。云原生大数据计算服务（MaxCompute）是一...
环境准备
适用于海量账单、IM 消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。更多信息，请参见 什么是表格存储。表格存储通道服务（Tunnel Service）是...
数据扫描和识别
支持扫描的数据源类型如下：结构化数据：RDS、PolarDB、PolarDB-X、MongoDB、OceanBase、自建数据库 非结构化数据：OSS 大数据：TableStore、MaxCompute、ADB-MYSQL、ADB-PG 数据源授权完成后需要多长时间完成扫描？DSC 完成数据源授权后，...
添加数据源概述
数据源类型 数据源 说明 数据库类 说明 如果您在其它地域，或者没有使用阿里云数据库，想连接自建数据库，那就需要暴露数据库的公网IP进行连接。DataV当前不支持IP白名单，如果您担心安全性问题，可以使用阿里云提供的数据库连接代理工具来...
TimeseriesRows
表示多行时序数据。数据结构 message ...} 名称 类型 是否必选 描述 type RowsSerializeType 是 时序数据的序列化类型。rows_data bytes 是 序列化后的数据。flatbuffer_crc32c int32 否 针对flatbuffer序列化方式的crc32c校验值。
授权与回收数据源权限
同步读：通过同步组件对来源存储中的数据进行读取的权限。同步写：通过同步组件对目标存储进行写入的权限。执行：仅支持用于执行数据库SQL任务。该权限不替代同步读、同步写权限。授权原因 填写授予数据源权限的原因。不超过128字符。单击 ...
授权与回收数据源权限
同步读：通过同步组件对来源存储中的数据进行读取的权限。同步写：通过同步组件对目标存储进行写入的权限。执行：仅支持用于执行数据库SQL任务。该权限不替代同步读、同步写权限。授权原因 填写授予数据源权限的原因。不超过128字符。单击 ...
如何统计冷存数据
场景描述 表、索引转存至冷存过程中会进行压缩，所以存储在冷存中的数据相比在云盘上的存储空间也会减少，其统计的规则也会发生变化，PolarDB PostgreSQL版 提供了冷存数据存储空间统计函数，用户可以通过统计函数了解数据的使用情况。...
表
MaxCompute的表类似于传统关系型数据库中的表，可以存储结构化数据，并且使用SQL进行查询和分析。MaxCompute中不同类型计算任务的操作对象（输入、输出）都是表。您可以 创建表、删除表以及向表中导入数据。说明 DataWorks的数据开发模块...
生命周期管理概述
阿里云文件存储NAS推出的生命周期管理功能，可以帮助您将低频访问的冷文件数据从标准存储转换到低频存储或归档存储中，并采用低频存储或归档存储计费方式，从而减少文件系统的存储费用。本文主要介绍生命周期的策略、使用限制、应用场景、...
解密ADB高效基因检测系统
示例查询 系统架构 ADB负责存储和查询基因检测系统中所有结构化数据（例如基因序列的长度、基因的名称、基因的种类以及基因的详细介绍，DNA或者RNA等）和基因序列产生的特征向量。查询时使用基因向量抽取模型，将基因转化成向量，在基因库...
通过缓存优化性能
Delta缓存通过使用快速中间数据格式在节点的本地存储中创建远程文件的副本来加速数据读取。每当需要从远程位置获取文件时，数据都会自动缓存。然后在本地的连续读取上述数据，从而显著提高读取速度。说明 详细内容可参考Databricks官网文章...
JindoFS实战演示
Flume高效写入OSS Flume高效写入OSS 2021-06-01 Flume是一个分布式、可靠、高可用的系统，支持从不同数据源高效地收集、聚合、迁移大量日志数据，聚合到中心化的数据存储服务，被广泛用于日志收集场景中。由于OSS本身不支持Flush功能，而...
数据湖投递概述
表格存储 数据湖投递可以全量备份或实时投递数据到数据湖OSS中存储，以满足更低成本的历史数据存储，以及更大规模的离线和准实时数据分析需求。应用场景 利用数据湖投递可以实现如下场景需求：冷热数据分层 数据湖投递结合 表格存储 的 ...
冷热分层存储
并不是所有OSS-HDFS中存储的数据都需要频繁访问，但基于数据合规或者存档等原因，部分数据仍然需要继续保存。针对以上问题，OSS-HDFS服务支持数据的冷热分层存储，对于经常需要访问的数据以标准类型进行存储，对于较少访问的数据以低频、...
计费模式
本文介绍数据湖构建中各资源的计费规格，包括入湖作业资源用量、数据存储对象和元数据请求三部分。计量计费项 重要 DLF产品目前所有功能为 0折扣活动阶段，即使超过免费阶梯限定后，目前也均不会产生实际计费。元数据对象的存储量 元数据...
如何将冷存数据进行预热
场景描述 冷存中的数据首次查询时延迟会比较高，可以提前预热将其加载到持久化缓存（分层存储中的云盘层），可以起到查询加速的效果。PolarDB PostgreSQL版 提供了 polar_osfs_prewarm 函数，支持将冷存数据进行预热。创建扩展 CREATE ...
存储类型概述
对象存储OSS提供标准、低频访问、归档、冷归档、深度冷归档多种存储类型，全面覆盖从热到冷的各种数据存储场景。...① 数据取回费用中的数据是从底层分布式存储系统读取的数据量，在公网传输的数据量会计入到流出流量的计费项中。
存储格式
列存表 列存表（Column-Oriented Table）的按列存储格式，数据访问只会读取涉及的列，适合少量列的数据查询、聚集等数据仓库应用场景，在此类场景中，列存表能够提供更高效的 I/O。但列存表不适合频繁的更新操作或者大批量的INSERT写入场景...
产品优势
多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型数据的一体化存储。宽表模型：经典模型，目前绝大部分半结构化、结构化数据均使用宽表模型进行存储。...
计算与分析概述
表格存储支持通过MaxCompute、Spark、Hive或者HadoopMR、函数计算、Flink、Presto、表格存储多元索引以及表格存储SQL查询进行计算与分析。分析工具选择 表格存储支持 宽表模型、时序模型 等多种数据模型。使用不同数据模型时支持的分析工具...
对象存储优化
分析数据访问模式并对数据进行转储或删除 您可以分析数据访问模式并配置 生命周期规则，自动将访问频率较低的数据转换为成本更低的存储类型，或者在到期日之后自动删除数据。例如，通过将数据从标准存储转换为低频访问存储，您可以节省高达...
概述
在数据库云盘中提供冷存对象的物化缓存，将频繁读取、频繁更新的部分数据缓存在云盘中，OSS介质中保留了数据的完整性，数据在物化缓存中的生命周期由访问频率决定，这样可以达到性能优良但存储成本更低的效果。具体可参考 冷数据物化缓存。
迁移指南
外部读取器：直接读取存储在Delta Lake中的数据。有关如何读取Delta表的信息，请参阅Integrations。示例 假设您已将Parquet数据存储在directory/data-pipeline 中，并希望创建一个名为events的表。您始终可以读入DataFrame并另存为Delta表...
概述
在数据库云盘中提供冷存对象的物化缓存，将频繁读取、频繁更新的部分数据缓存在云盘中，OSS介质中保留了数据的完整性，数据在物化缓存中的生命周期由访问频率决定，这样可以达到性能优良但存储成本更低的效果。具体可参考 冷数据物化缓存。
iOS 常见问题
本文介绍的是接入 iOS 过程中常见的问题及相应的解决方案。如何设置统一存储用户态 解答：接入 mPaaS 的应用会使用自己的账号体系，如果需要使用统一存储来管理用户态数据，请第一时间通知统一存储，让统一存储进行用户数据库的切换，再...
设置列索引的排序键
本文介绍了列存索引数据的排序流程、使用方法以及构建和查询有序列存索引数据的时间对比等内容。简介 列存索引数据是按照行组进行组织，默认包含64K行。每个行组中不同的列会各自打包形成列数据块，列数据块按照行存原始数据的主键次序并行...
事务隔离
隔离级别 脏读 不可重复读 幻读 序列化异常 读未提交 允许，但不在 PG 中 可能 可能 可能 读已提交 不可能 可能 可能 可能 可重复读 不可能 不可能 允许，但不在 PG 中 可能 可序列化 不可能 不可能 不可能 不可能 在本数据库中，...
应用级别的数据完整性检查
用可序列化事务来强制一致性 如果可序列化事务隔离级别被用于所有需要一个一致数据视图的写入和读取，不需要其他的工作来保证一致性。在本数据库中，来自于其他环境的被编写成使用可序列化事务来保证一致性的软件应该“只工作”在这一点上...
元数据管理
元数据管理是构建数据湖重要一环，通过有效集中式的元数据管理，可以提升数据资产价值。您可以使用该功能管理元数据库和元数据表。创建元数据库 登录 数据湖管理控制台，选择 元数据 目录下的 元数据管理。单击 新建数据库。配置元数据库...
应用场景
表格存储 有互联网应用架构（包括数据库分层架构和分布式结构化数据存储架构）、数据湖架构和物联网架构三种典型应用架构。本文结合 表格存储 的典型应用架构介绍了不同应用架构下的应用场景。互联网应用 目前互联网已在日常生活中广泛应用...
设置数据冷热存储策略
如果您想要以指定规则对文件引擎中存储的数据进行归档，将冷热数据分开存储，可以通过命令设置冷热存储策略，按照目录级别对数据进行划分。冷热分离可以有效提高热数据的查询效率，减少冷数据的存储成本。本文介绍通过开源HDFS客户端设置...
概述
数据映射 Kafka主题中的数据先通过Converter进行反序列化，您需要在Kafka Connect的worker配置或者connector配置中修改key.converter和value.converter属性，以确保配置合适的反序列化转换器。您可以选择Kafka Connect带有的JsonConverter...
pg_statistic
目录 pg_statistic 存储有关数据库内容的统计数据。其中的项由ANALYZE创建，查询规划器会使用这些数据来进行查询规划。所有的统计数据天然就是近似的，即使它刚刚被更新。通常对于数据表中一个已经被 ANALYZE 过的列，在本目录中会存在一个...
DataHub成本节省攻略
这个就是我们引入的batch序列化，batch序列化本质上就是DataHub数据传输中数据的定义的一种组织方式，batch并不是特指某种序列化的方式，而是对序列化的数据做了一个二次封装，比如我一次发送100条数据，那我把这100条数据序列化后得到一个...
按扫描量付费
数据分区：通过分区的方式，把原始数据存储在不同的分区中，DLA只扫描其中的一个或者几个分区，无需扫描所有分区，从而节省扫描费用。计费示例 您在OSS中存储了两个容量均为1 TB的CSV文件和JSON文件，在RDS中存储一个容量为1TB的数据表。...
列存索引配置参数说明
本文介绍了与列存索引相关的参数，以及参数说明内容。参数 说明 loose_imci_auto_update_statistic 当统计信息过旧时，列存索引（IMCI）优化器是否重新收集统计信息。取值范围如下：ASYNC（默认）：当统计信息过旧时，列存索引（IMCI）优化...
Query Profile介绍
RemoteReadBytes 所有Connector Scan执行节点从OSS对象存储读取的压缩数据大小之和。该指标仅适用于存算分离实例。ResultRows 所有SCAN执行节点输出记录条数总和。ResultBytes 所有SCAN执行节点读取的数据总量之和。Network 指标 说明 ...
常见问题（FAQ）
Delta Lake使用版本化的Parquet文件将您的数据存储在您的云存储中。除版本外，Delta Lake还存储事务日志，以跟踪对表或Blob存储目录所做的所有提交，以提供ACID事务。如何使用Delta Lake读写数据？您可以使用自己喜欢的Apache Spark API来...
- 产品推荐
- 这些文档可能帮助您