冷数据分层存储计费规则
本文介绍开启冷数据分层存储后，在冷数据存储方面的计费规则。计费规则 当 开启冷数据分层存储 后，PolarDB PostgreSQL版（兼容Oracle）支持将集群的冷数据转存至低成本的OSS上进行存储，以降低数据存储成本。说明 更多关于冷数据分层存储...
冷数据存储计费规则（可选）
本文介绍了开启冷数据归档功能后，在冷数据存储方面的计费规则。当 开启冷数据归档 后，PolarDB 企业版支持将集群的冷数据转存至低成本的OSS上进行存储，以降低数据存储成本。说明 更多关于冷数据归档的详细介绍，请参见 冷数据归档概述。...
RDS MariaDB实例间的数据迁移
通过如下命令将数据文件、存储过程、触发器和函数导入到目标RDS MariaDB实例中。mysql-h<目的实例外网地址>-P<目的实例端口>-u<目的实例高权限账号>-p<目的实例高权限账号密码><目的实例数据库名称>要迁移的数据库名称>.sql mysql-h<目的...
使用mysqldump迁移MySQL数据
[^]*\*/\*/'>/tmp/<自建数据库名>Trigger.sql 示例 mysqldump-h 127.0.0.1-u user-p-opt-default-character-set=utf8-hex-blob testdb-R|sed-e 's/DEFINER[]*=[]*[^]*\*/\*/'>/tmp/testdbTrigger.sql 说明 若数据库中没有使用存储过程、...
离线同步数据质量排查
读端数据一致性排查 数据集成的Reader插件用来连接具体的源头数据存储，抽取出待同步的数据并投递给同步写端。每一个存储类型都会有对应的Reader插件，Reader插件会根据用户配置的数据抽取模式（包括数据过滤条件、表、分区、列等），使用...
创建分析存储
当需要低成本存储时序数据以及快速查询和分析时序数据时，您可以使用CreateTimeseriesAnalyticalStore接口为已有时序表创建分析存储。前提条件 已通过控制台创建了开启分析存储的实例。具体操作，请参见 创建时序模型实例。已初始化...
归档为IBD格式
归档冷数据的过程中会占用一定量的网络和存储I/O资源，建议在业务低峰期或非活跃集群上执行冷数据归档操作。语法 将表数据归档至OSS。当表中的数据为冷数据且对延时不敏感，或访问集中可被缓存且尾访问延迟不敏感时，您可以通过该语法将...
功能特性
添加安全组 透明数据加密 Lindorm支持透明数据加密TDE功能，可以对实例数据和操作日志全加密，保护数据在传输和存储过程中的安全性和隐私性。透明数据加密 审计日志 通过审计日志可以精准分析指定时间段的所有数据操作，同时可以按照指定...
数据归档概述
费用说明 数据归档功能不收费，在购买、使用目标实例过程中，可能会涉及费用。归档后是否支持删除源数据 支持同步删除源数据，保证数据归档和源数据删除同步完成，降低了后期删除源数据的麻烦和风险。删除源数据是通过无锁变更的方式进行，...
创建分析存储
当需要低成本存储时序数据以及快速查询和分析时序数据时，您可以使用CreateTimeseriesAnalyticalStore接口为已有时序表创建分析存储。前提条件 已通过控制台创建了开启分析存储的实例。具体操作，请参见 创建时序模型实例。已初始化...
数据集成服务
且需要使用复杂的检索或大数据分析时，如果原有数据库的数据架构不能满足现在的业务需求或改造成本较大，则您可以通过DataWorks数据集成服务将现有数据库中的数据迁移到Tablestore表中存储和使用。您还可以通过DataWorks数据集成服务实现...
常见问题
数据同步过程中如果源实例中的数据库名、表名或者列名中含有划线（-）会报错吗？由于ADB中不允许数据库名、表名或者列名中含有划线（-），为保证数据同步成功，系统会将中划线（-）映射为下划线（_）。如果在数据同步过程中遇到其他因数据...
对象存储优化
分析数据访问模式并对数据进行转储或删除 您可以分析数据访问模式并配置 生命周期规则，自动将访问频率较低的数据转换为成本更低的存储类型，或者在到期日之后自动删除数据。例如，通过将数据从标准存储转换为低频访问存储，您可以节省高达...
什么是EMR Serverless StarRocks
您无需在上游应用中进行数据转换操作，便可以直接在使用物化视图的过程中实现数据的转换与加工，简化了数据处理流程。数据湖分析 StarRocks不仅能高效地分析本地存储的数据，也可以作为计算引擎直接分析数据湖中的数据。您可以通过...
数仓规划概述
下图以默认的五层数据分层为例，数据分层规划完成后，后续的表数据存储可根据规划分别存储至不同的数据分层中。贴源层：用于数据库、日志、消息等基础源数据的引入。源数据经过一系列ETL操作进入贴源层，该层级只能挂载贴源表。公共层：...
2024年
修复数据处理场景中存储引擎处理特定数据时会触发 negative bitmapset member not allowed 报错信息，导致执行引擎异常崩溃的问题。修复数据处理过程中系统在尝试读取数据文件的特定块时发生错误，触发 beam could not read block in file ...
后续指引
开发与分析 数据类型 MaxCompute支持三种数据类型版本，为您介绍各版本支持的数据类型、适用场景及各版本间的差异，避免开发过程中出现数据类型无法解析问题。介绍：数据类型 常见问题：数据类型常见问题 常用命令 提供开发过程中的针对 表...
OSS数据安全防护最佳实践
本文介绍如何使用 数据安全中心（DSC），对OSS中存储的敏感数据进行识别、分类分级和保护。背景信息 敏感数据主要包括个人隐私信息、密码、密钥、敏感图片等高价值数据，这些数据通常会以不同的格式存储在您的OSS Bucket中，一旦发生泄漏，...
快速入门（PAI-DSW）
NAS与阿里云人工智能平台PAI（Platform For AI）无缝集成，您可以在PAI的服务上配置NAS作为数据集持久化存储部署、训练过程中的数据。本文介绍如何在控制台为PAI-DSW实例快速部署NAS。前提条件 已开通PAI并创建默认工作空间。具体操作，请...
设置数据冷热存储策略
如果您想要以指定规则对文件引擎中存储的数据进行归档，将冷热数据分开存储，可以通过命令设置冷热存储策略，按照目录级别对数据进行划分。冷热分离可以有效提高热数据的查询效率，减少冷数据的存储成本。本文介绍通过开源HDFS客户端设置...
多租户管理使用说明
若在租户下创建的数据库名称与内置存储过程中的 schema_name 相同，将无法调用该数据库下的内置存储过程。在系统租户下管理数据库 创建数据库 连接数据库，在系统租户下创建数据库。示例如下：CREATE database 'db1@tenant_1';删除数据库 ...
基本概念
一张表由行（Row）和（Column）组成，其中行表示一行数据，列表示一行数据中不同的字段。云数据库SelectDB版 支持的表引擎如下：Aggregate表引擎 Unique表引擎 Duplicate表引擎 索引（Index）索引是对表中一列或多列的值进行排序的一种结构...
Location托管
Location托管可以将数据湖OSS中的存储数据托管到数据湖构建（DLF）中进行管理和分析，在托管Location后将可以为你提供 存储概览，生命周期管理介绍，数据表-数据概况（如数据访问频次，数据最后更新时间等），以及存储权限（规划中）等数据...
产品概述
相比基于分布式存储的新型Cloud Native数据库，理论上 PolarDB-X 1.0 的扩展性没有上限，打消业务在快速发展的过程中针对数据库扩展性产生的后顾之忧与运维压力。持续可运维 对于绝大部分应用而言，关系型数据库需要保证能够7 x 24小时稳定...
功能特性
服务器端加密 客户端加密 OSS客户端加密是在数据上传至OSS之前，由用户在本地对数据进行加密处理，确保只有密钥持有者才能解密数据，增强数据在传输和存储过程中的安全性。客户端加密 合规保留策略 OSS保留策略具有WORM（Write Once Read ...
全景视角
背景信息 为提高不同使用场景下的数据治理效率和质量，DataWorks为您提供以下视角：数据管理视角：在数据资产管理、数据安全加固、数据权限管理等数据管理场景下，建议您使用数据管理视角，关注查看数据管理过程中，表的统计数据、安全权限...
Dataphin支持的数据源
在使用Dataphin前，您需要选择符合业务场景需求的数据库或数据仓库作为数据源，用于读取原始数据和写入数据建设过程中的数据。Dataphin集成了丰富的数据引擎，支持接入MaxCompute等数据仓库，也支持对接企业传统数据库，如MySQL、Oracle等...
文件存储 HDFS 版和对象存储OSS双向数据迁移
本文档介绍 文件存储 HDFS 版 和对象存储OSS之间的数据迁移操作...如果在数据迁移过程中，有并发的写者写入，文件F的长度将超过L，但是数据迁移任务无法感知到最新写入的数据。因此，建议当您在做数据迁移时，请避免往迁移的文件中写入数据。
概述
全局一致性 PolarDB-X 是一款分布式数据库，数据存放在多个数据节点（DN）上，当分布式事务存在的情况下，恢复后的实例需要保证多个数据节点间的数据一致性。下图通过转账测试给出了全局一致性的示例：PolarDB-X 中存放了一张用户的账户...
块存储
您可以像使用物理硬盘一样格式化并建立文件系统来使用块存储，可满足绝大部分通用业务场景下的数据存储需求。适用场景 阿里云为您的云服务器ECS提供了丰富的 块存储产品类型，包括基于分布式存储架构的云盘以及基于物理机本地硬盘的本地盘...
将MaxCompute数据同步到表格存储
如果需要将MaxCompute计算分析后的数据同步到表格存储中存储或者使用，您可以通过在DataWorks数据集成控制台新建和配置离线同步任务来实现全量数据导出。全量数据导出到表格存储后，您可以使用表格存储查询与分析数据。背景信息 表格存储...
设置生命周期策略
费用说明 低频存储类型费用说明 低频存储容量费用：根据您转储至低频存储中的文件大小、时长收取一定的低频介质存储容量费用。低频存储读/写流量费用：根据您每小时访问低频存储内数据的读写流量累积值计费（不区分内网和公网）。归档存储...
CDH6数据迁移
为了保证在更换文件存储系统的过程中文件数据不丢失，需要暂停数据处理服务（例如：YARN服务、Hive服务、Spark服务、HBase服务等），HDFS服务仍需保持运行。此处以停止Hive服务为例进行说明。在CDH Web主页，找到Hive服务，在右侧的操作...
高级管理FAQ
安全服务扫描低频存储中存储或归档存储的文件时，怎么收费？当您使用安全服务（例如云安全中心的防勒索服务）扫描通用型NAS低频存储或归档存储中的文件时，安全服务会读取目标文件中的数据，文件存储NAS将收取低频存储或归档存储访问流量...
概述
通过将SPL代码组织为子存储过程和子函数，可以有利地运用SPL存储过程和函数程序的能力和功能来构建结构良好且易于维护的程序。通过在SPL程序中声明子存储过程和子函数，可从相对较大的SPL程序中的不同位置多次调用相同的SPL代码。子存储...
按时间戳冷热分离
注意事项 若某一行数据同时包含热数据和冷数据，例如更新了部分列导致一行数据中既存在热数据又存在冷数据的场景，开启查询热数据优先功能会导致该行的查询结果分两次返回，即Scanner返回的Result集合中，对于同一个Rowkey会有两个对应的...
常见问题
在集群使用过程中，会发生数据存储、资源弹性变配，占用存储空间和弹性资源。存储空间和弹性资源都是按量付费，即先使用再按实际使用量收费，因此会产生后付费的费用。更多计费规则的详情，请参见 数仓版（3.0）计费项 和 湖仓版（3.0）...
IO加速
背景 RDS PostgreSQL在数据处理过程中，数据会从磁盘读取到内存，在内存中处理完成后，数据再从内存写入到磁盘中。与内存操作相比，磁盘IO操作运行速度较慢，将会消耗更多的时间。当业务出现大规模数据读写或频繁数据读写请求时，磁盘IO...
Dataphin支持的数据源
在使用Dataphin前，您需要选择符合业务场景需求的数据库或数据仓库作为数据源，用于读取原始数据和写入数据建设过程中的数据。Dataphin集成了丰富的数据引擎，支持接入MaxCompute、Hive等数据仓库，也支持对接企业传统数据库，如MySQL、...
读API
说明 从返回值中提取的数据必须是数组类型。以下是返回值和映射关系配置的示例：{"code":"SUCCESS","data":{"pageSize":20,"pageNum":1,"list":[/需要提取的数组 {"name":{"firstName":"Alice","lastName":"Brown"},"age":22,"email":...
- 产品推荐
- 这些文档可能帮助您