应用场景
您可以将模式固定的结构化数据存储在 RDS（Relational Database Service）中，模式灵活的业务存储在MongoDB中，高热数据存储在 云数据库Redis 或 云数据库Memcache 中，实现对业务数据高效存取，降低存储数据的投入成本。移动应用 云数据库...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
参数 描述 示例 所属数据目录 数据存储的数据库目录。default 数据库名称 目标数据库的名称。dlf_db 数据库描述 目标数据库的描述信息。湖仓一体 选择路径 OSS数据路径。格式为 oss:/名称>/目录名称>。oss:/doc-test-01/datalake/单击 确定...
表数据格式
数据存储分桶 为了进一步优化读写效率，Transactional Table 2.0支持按照BucketIndex对数据进行切分存储，BucketIndex数据列默认复用PK列，bucket数量可通过配置表属性 write.bucket.num 指定，因此对同一张表或分区的数据，写入数据会按PK...
控制台快速入门
对象存储OSS帮助您存储图片、音视频等应用，实现海量数据的互联网并发下载，或者结合智能媒体管理服务和图片处理服务进行云端的数据处理。本文以图片文件为例，为您介绍创建存储空间、上传文件、下载文件、分享文件的快速操作指导。前提...
MaxFrame概述
处理数据量大、处理逻辑复杂，需要基于MaxCompute海量数据及弹性计算资源、MaxFrame分布式能力进行大规模数据分析、处理及数据挖掘，提高开发效率。面向Data+AI开发，需要依赖第三方或自定义镜像完成数据开发、模型开发等整体流程。支持的...
表格存储建表注意事项
放开表个数的需求一般有以下几种情况：数据量大、访问性能要求高 不同于传统的SQL数据库（例如MySQL）解决海量数据访问需求的方法是分库分表，表格存储作为分布式实现方式很好地解决了数据量及访问延迟的瓶颈。您可以将结构化或半结构化的...
购买数据安全中心
OSS存储容量 指定需要 DSC 防护的OSS数据存储容量。可选范围：1,000~10,000,000 GB。日志存储 指定需额外购买的存储审计日志的存储空间容量。仅支持已选择 企业版 的用户选择该选项，基础版 不支持。可选范围：0~500 TB。您购买数据安全...
备份存储费用说明
例如：假设数据库数据量为100 GB，在进行快照备份后，修改了数据库中的10 GB数据，则：数据存储按照100 GB收费，快照备份存储按照10 GB收费；如果删除了该数据库，且保留其快照备份，则快照备份存储按照100 GB收费。存储包抵扣规则 使用...
混合存储型（已停售）
使用混合存储型，将所有课程信息存储到磁盘，访问量大的课程和题库数据存储到内存并常驻内存，保证高频访问数据的读写性能，实现高性能与高性价比的有机结合。典型业务场景的示例如下：场景1：使用开源Redis集群存储了100 GB的数据，但高峰...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版 14.9.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有存储数据，开启该...
基本概念
单个Shard是由三节点的副本集组成，保证单个分片的高可用性，用户可以根据自己的应用性能及存储要求，购买多个Shard来扩展读写性能及存储空间，实现一个分布式数据库系统。ConfigServer 配置服务器，存储所有数据库元信息（路由、分片）的...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版（兼容Oracle）2.0.14.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有...
开启和使用冷数据分层存储
本文介绍如何开启冷数据分层存储功能，以及开启功能后的使用方式。使用限制 仅 PolarDB PostgreSQL版（兼容Oracle）2.0.14.13.0 及以上版本支持冷数据分层存储功能。开启冷数据分层存储功能后，无法关闭该功能，只能删除冷数据。如果没有...
大数据安全治理的难点
通常，大数据系统中的工作流涉及多部门、多责任人且跨系统的数据，如何才能协调好这些业务系统准时、保质保量地产出数据，避免出现因业务系统宕机/脏数据导致数据延时产出、产出脏数据，关乎到企业数据业务的连续性问题甚至高层的信任问题...
Redis持久化与备份恢复
Redis 持久化是指为了避免数据丢失，定期将数据存储到磁盘中。如遇 Redis 宕机或重启，能够利用磁盘中的持久化文件恢复数据。为满足各类场景下对备份与恢复的需求，云数据库 Redis 版 提供RDB持久化、AOF持久化和Tair-Binlog持久化策略。...
X-Engine最佳实践
迁移到X-Engine之后，很多业务可以免除分库分表的需求，使用单库即可承载近10 TB的数据存储服务。作为中国领先的电子商务服务提供商，用户体量庞大，阿里内部有非常多的在线业务承受非常大的存储成本压力。接下来为您介绍阿里巴巴集团内部...
设置数据保留策略
InfluxDB的数据保留策略可以定义数据在InfluxDB中保存时间，本文介绍如何设置数据保留策略。前提条件 已创建数据库。具体操作，请参见 创建数据库。数据保留策略介绍 InfluxDB可以通过定义数据保留策略，用来控制存储数据量的方式。新创建...
数据上云工具
Flume（DataHub通道系列）Apache Flume是一个分布式的、可靠的、可用的系统，可高效地从不同的数据源中收集、聚合和移动海量日志数据到集中式数据存储系统，支持多种Source和Sink插件。Apache Flume的DataHub Sink插件可以将日志数据实时...
Catalog概述
当FE将生成的查询计划分发给各个BE后，各个BE会并行扫描Hive存储系统中的目标数据，并执行计算返回查询结果。查询数据 查询内部数据 如果需要查询存储在StarRocks中的数据，请参见 Default Catalog。查询外部数据 如果需要查询存储在外部...
连续查询
创建数据库db_sensor_month，将原始数据存储在db_sensor_month中，数据有效期为30天。CREATE DATABASE db_sensor_month WITH(ttl=30);在数据库db_sensor_month中创建表sensor。USE db_sensor_month；CREATE TABLE sensor(device_id VARCHAR...
应用场景
文件存储 HDFS 版 适用于对吞吐要求较高的大数据分析与机器...将Hadoop或其他机器学习应用部署在多个计算资源上，这样应用可以直接通过HadoopFS接口访问数据进行离线或在线计算，也可以直接将计算结果输出到 文件存储 HDFS 版 做永久保存。
Catalog概述
当FE将生成的查询计划分发给各个BE后，各个BE会并行扫描Hive存储系统中的目标数据，并执行计算返回查询结果。查询数据 查询内部数据 如果需要查询存储在StarRocks中的数据，请参见 内表数据源。查询外部数据 如果需要查询存储在外部数据源...
创建逻辑模型：明细表
可以指定明细表后续在数据建模分析使用时，明细表的数据存储于数仓中的哪个数据分层，一般情况下明细表可存储于数据明细层（DWD层）。明细表创建后，您可以为明细表添加字段，且可以对明细表进行关联和分区的设置，并且可使用统一的数据...
实时数据订阅概述
云原生多模数据库 Lindorm 支持实时数据订阅功能，实时数据订阅功能帮助您获取Lindorm的实时增量数据，您可以根据自身业务需求自由消费增量数据，搭建或实现多种业务场景。背景信息 云原生多模数据库 Lindorm 数据订阅功能支持任何一个表的...
telnet 访问操作指南
该标志将和需要存储的数据一起存储，并在客户端 get 数据时返回。您可以将此标志用做特殊用途，此标志对服务器来说是透明的。过期的时间。0 表示存储的数据永远不过时（但可被服务器算法：LRU 等替换）。非 0（unix 时间），过期后服务器...
平台安全诊断
平台安全诊断目前支持的安全域说明如下：数据计算与存储安全性诊断 用于对数据权限的控制、数据存储加密、数据存储备份等功能进行安全性诊断，及时识别潜在的安全隐患，提升在数据存储与访问过程中的安全性。数据传输安全性诊断 用于对数据...
数据引入层（ODS）
ODS（Operational Data Store）层存放您从业务系统获取的最原始的数据，是其他上层数据的源数据。业务数据系统中的数据通常为非常细节的数据，经过长时间累积，且访问频率很高，是面向应用的数据。说明 在构建MaxCompute数据仓库的表之前，...
数据引入层（ODS）
ODS（Operational Data Store）层存放您从业务系统获取的最原始的数据，是其他上层数据的源数据。业务数据系统中的数据通常为非常细节的数据，经过长时间累积，且访问频率很高，是面向应用的数据。说明 在构建MaxCompute数据仓库的表之前，...
功能特性
无缝集成 文件存储 HDFS 版 允许您就像在Hadoop分布式文件系统（HDFS）中一样管理和访问数据。文件存储 HDFS 版 SDK可在所有Apache Hadoop 2.x环境中使用，包括阿里云EMR和阿里云Flink。文件存储 HDFS 版 支持的原生文件系统语义被开发人员...
SQL Server逻辑备份
备份目标信息 备份目标存储类型 存放备份数据的存储类型，支持的选项：DBS内置存储（推荐）：无需创建存储空间，数据将自动存入DBS内置存储中，会根据存入DBS的数据量产生费用，计费方式请参见 存储费用。用户OSS：您需要提前在OSS中创建...
面临的业务挑战
传统的批处理模式往往有数小时甚至数天的延迟，不能满足T+0的业务需要，用户要求在秒级，甚至毫秒级完成对海量数据分析。系统极复杂 大数据平台普遍存在使用复杂的问题。用户希望专注于核心业务，而非底层技术。用户希望使用的是“开箱即用...
添加数据集
DataV数据集支持多种数据源的接入，如数据库、excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，提供高效实用的数据建模能力，可用的算子包括常见的数据聚合函数、按不同时间粒度划分、地理信息处理等。本文为您介绍如何在...
PolarDB MySQL版逻辑备份
备份目标信息 备份目标存储类型 存放备份数据的存储类型，支持的选项：DBS内置存储（推荐）：无需创建存储空间，数据将自动存入DBS内置存储中，会根据存入DBS的数据量产生费用，计费方式请参见 存储费用。用户OSS：您需要提前在OSS中创建...
存储类型概述
对象存储OSS提供标准、低频访问、归档、冷归档、深度冷归档多种存储类型，全面覆盖从热到冷的各种数据存储场景。说明 各存储类型的定价，请参见 OSS产品定价。各存储类型的计费方式，请参见 存储费用。标准存储（Standard）提供高可靠、高...
Oracle逻辑备份
备份目标信息 备份目标存储类型 备份目标存储类型，支持：DBS内置存储（推荐）：无需创建存储空间，数据将自动存入DBS内置存储中，会根据存入DBS的数据量产生费用，计费方式请参见 存储费用。推荐您预购存储包，进一步减低存储费用，详情请...
应用场景
解决方案：数据同步：通过数据同步功能，将不同业务系统数据汇聚到统一的存储计算引擎，实现数据的初步融合。数据标准：管理数据标准和构建数据模型，将数据标准贯彻到数据质量分析、保障及检查的全过程中，将散乱的多源异构数据加工成标准...
基于Delta lake的一站式数据湖构建与分析实战
数据湖作为一个集中化的数据存储仓库，支持的数据类型具有多样性，包括结构化、半结构化以及非结构化的数据，数据来源上包含数据库数据、binglog 增量数据、日志数据以及已有数仓上的存量数据等。数据湖能够将这些不同来源、不同格式的数据...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
创建Lindorm数据源
背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、海量数据低成本存储和分析。更多阿里云Lindorm信息，请参见 云原生多模数据库 Lindorm。权限说明 Dataphin仅支持 超级管理...
创建Lindorm数据源
背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、海量数据低成本存储和分析。更多阿里云Lindorm信息，请参见 云原生多模数据库 Lindorm。权限说明 Dataphin仅支持 超级管理...
- 产品推荐
- 这些文档可能帮助您