时序模型计量计费
使用时序模型时，时间线数据和时间线元数据会产生数据存储量。同时，对时间线数据和时间线元数据的读写操作会消耗读写吞吐量。本文介绍了时序模型的计费项以及计费示例。注意事项 时序模型中的分析存储功能将从2023年12月20日正式开始收费...
配置连接器
Hive连接器 kudu 使用Kudu连接器可以查询、插入和删除存储在Kudu里的数据。Kudu连接器 iceberg 使用Iceberg连接器可以查询Iceberg格式的数据文件。Iceberg连接器 mysql 使用MySQL连接器可以在外部MySQL实例中查询和创建表。MySQL连接器 ...
方案实现
表格存储消息（Timeline）模型是针对消息数据场景所设计的，能够满足消息数据场景对消息保序、海量消息存储、实时同步的业务需求，同时支持全文检索与多维度组合查询。更多信息，请参见 模型介绍。一个Timeline模型存储有若干Timeline，...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
数据湖存储与管理 对象存储OSS 数据湖构建DLF 将在线数据库中的源数据引入数据湖时，OSS会作为数据湖的统一存储，存储机制包含Delta Lake和Hudi两种。同时，DLF采用元数据管理功能管理元数据库和元数据表。数据湖探索与分析 MaxCompute ...
E-MapReduce数据迁移
本文介绍如何将E-MapReduce HDFS上的数据迁移到 文件存储 HDFS 版 文件系统。背景信息 阿里云E-MapReduce是构建在阿里云云服务器ECS上的开源Hadoop、Spark、Hive、Flink生态大数据PaaS产品。提供用户在云上使用开源技术建设数据仓库、离线...
功能特性
数据库文件存储 功能集 功能 功能描述 参考文档 DBFS特性 原子写 支持DIRECT IO的原子写，需按4K，8K，16K对齐-共享读写 一份数据可共享式多点挂载并进行读写，读写可线性扩展-存储加密 通过对数据库文件存储实施加密，可以确保数据库文件...
阿里云存储服务
为您的数据选择合适的阿里云存储服务，也就是在数据的可用性、持久性和性能方面找到最匹配的产品。说明 可用性是指存储产品根据请求提供数据的能力。持久性是指年平均预期数据丢失。性能是指存储产品可以提供的IOPS或吞吐量。阿里云提供三...
Hive数据导入
Hive存储模式为 数据湖存储 的E-MapReduce集群，数据存储在OSS中，可以通过元数据发现功能将数据导入 湖仓版（3.0）。具体操作，请参见 通过元数据发现导入至湖仓版。ECS自建CDH集群。已创建Hive库表，且Hive表为分区表。具体操作，请参见 ...
新功能发布记录
针对以上问题，OSS-HDFS服务支持数据的冷热分层存储，对于经常需要访问的数据以标准类型进行存储，对于较少访问的数据以归档类型进行存储，从而降低总存储成本。2022-08-16 华东1（杭州）、华东2（上海）、华南1（深圳）、华北2（北京）、...
创建存储空间
本地冗余存储 采用单可用区（AZ）内的数据冗余存储机制，将用户的数据冗余存储在同一个可用区内多个设施的多个设备上，确保硬件失效时的数据持久性和可用性。同城冗余存储（推荐）采用多可用区（AZ）内的数据冗余存储机制，将用户的数据...
常见问题
A：相较于传统数据库，云原生数据库PolarDB 支持上百TB级别海量数据存储，提供高可用和高可靠保障、快速弹性升降级、无锁备份等功能，详情请参见 产品优势。Q：PolarDB 是什么时候发布？什么时候开始商用？A：2017年9月发布公测，2018年3月...
存储加密
当MaxCompute项目中存有敏感信息如个人身份信息、财务记录、健康记录等，开启数据存储加密可保护这些数据不被未授权者访问。MaxCompute支持通过密钥管理服务KMS（Key Management Service）对数据进行加密存储，提供数据静态保护能力，满足...
创建集群
通过阿里云E-MapReduce（简称EMR），您可以轻松构建和运行Hadoop、Spark、Hive、Presto等开源大数据框架，以进行大规模数据处理和分析等操作。本文为您介绍在EMR on ECS上创建集群的操作步骤和相关配置，帮助您快速搭建和管理大数据集群。...
环境准备
使用Hive/HadoopMR来访问表格存储中的表 通过 表格存储 及 E-MapReduce 官方团队发布的依赖包，可以直接使用Hive及HadoopMR来访问表格存储中的数据并进行数据分析。安装JDK-7+下载并安装JDK-7+安装包。Linux/macOS系统：使用系统自带的包...
X-Engine简介
因为目标是面向大规模的海量数据存储，提供高并发事务处理能力和降低存储成本，在大部分大数据量场景下，数据被访问的机会是不均等的，访问频繁的热数据实际上占比很少，X-Engine根据数据访问频度的不同将数据划分为多个层次，针对每个层次...
PolarDB HTAP实时数据分析技术解密
该执行器框架充分利用列式存储的优势，例如，以一个4096行的Batch为单位访问存储层的数据，使用SIMD指令提升CPU单核处理数据的吞吐量，所有关键算子均支持并行执行。对比MySQL原有的行存执行器，性能有数量级的提升。支持行列混合执行的...
在本地控制台上使用文件网关
设置修改时间会被转换成修改存储桶里的对象的元数据，通过调用拷贝对象API来实现，如果是归档类型或者冷归档类型的文件，就会需要执行耗时的解冻动作，影响上传效率，甚至可能因为缓存盘内的数据来不及上传导致写入失败，所以不建议网关...
常见问题
阿里云文件存储NAS是面向阿里云ECS实例、E-HPC、容器服务等计算节点的文件存储服务，不支持直接在非阿里云计算节点上挂载（例如，腾讯云、用户自己的IDC机房、本地数据中心、线下服务器、个人计算机等），但您可以通过阿里云VPN或阿里云NAT...
加速管理概述
OSS加速器 通过将数据存储在更高性能的介质上，提供高性能、高吞吐量的数据访问服务。低时延数据共享 大数据分析 模拟训练 多级加速 有效降低数据访问延迟 数据与OSS保持强一致性，无需关心缓存淘汰问题 对数据写入没有加速效果，写入量过...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
JindoFS块存储模式
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
E-MapReduce支持倚天云服务器
阿里云E-MapReduce（简称EMR）支持使用倚天云服务器构建开源大数据集群。与现有X86架构实例体验完全相同的情况下，具有更高的性价比，帮助您降低成本并提高效率。本文为您介绍倚天云服务器的特性、优势，以及在E-Mapreduce上倚天云服务器的...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
图扑案例
为了实现实时数据采集、存储、索引和聚合，原存储方案中采用了ElasticSearch、Prometheus、Hbase分别存储从现场传感器、第三方系统和用户终端设备采集的时序指标、日志、用户体验、网络流量等数据，随着数据量增加，可视化展示界面场景复杂...
时序分析存储概述
使用分析存储（Analytical Store）功能，您可以低成本存储时序数据以及快速查询和分析时序数据。分析存储功能主要用于时序数据长期存储和分析场景。背景信息 分析存储是 表格存储 针对时序场景进行定制优化的低成本存储引擎。分析存储不仅...
转换文件存储类型
OSS提供标准、低频访问、归档、冷归档和深度冷归档多种存储类型，全面覆盖从热到冷的各种数据存储场景。本文主要介绍如何转换文件（Object）的存储类型。注意事项 当您使用webpack或browserify等打包工具时，请通过 npm install ali-oss 的...
SmartData使用说明（EMR-3.20.0~3.22.0版本）
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
如何实现一键转冷存
参数 参数名称 描述 relname 分区表（父表）名称 reserved_subparts_cnt 存储位置不变的子分区表数量 说明 该函数只用于分区表，且只会将分区表子分区表数据转为OSS存储，子分区表上的索引数据存储位置不变。如果 reserved_subparts_cnt 为...
如何实现一键转冷存
参数 参数名称 描述 relname 分区表（父表）名称 reserved_subparts_cnt 存储位置不变的子分区表数量 说明 该函数只用于分区表，且只会将分区表子分区表数据转为OSS存储，子分区表上的索引数据存储位置不变。如果 reserved_subparts_cnt 为...
通过NFS使用NAS动态存储卷
容器服务 Kubernetes 版 CSI支持subpath...kubectl get pod 预期输出：NAME READY STATUS RESTARTS AGE deployment-nas-1-5b5cdb85f6-n*1/1 Running 0 32s deployment-nas-2-c5bb4746c-4*1/1 Running 0 32s 说明 NAS存储卷的 0cd8b4a576-g*....
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive JindoFS分层存储命令均为异步执行，分层存储命令只是...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive JindoFS分层存储命令均为异步执行，分层存储命令只是...
如何选择实例规格
polarx.st.12xlarge.25 90核720 GB 6144 GB 20000 140000 实例规格=节点数×节点规格 举例如下：polarx.x8.xlarge.2e独享规格，节点数为2个，性能数据如下：存储6 TB(3072 GB×2）、连接数40000(20000×2）、最大IOPS 36000(18000×2）。...
数据量
在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为：购买时选择的存储...
应用场景
您可以将模式固定的结构化数据存储在 RDS（Relational Database Service）中，模式灵活的业务存储在MongoDB中，高热数据存储在 云数据库Redis 或 云数据库Memcache 中，实现对业务数据高效存取，降低存储数据的投入成本。移动应用 云数据库...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive-archive-i/a<path>.:Archive commands.JindoFS分层存储...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive-archive-i/a<path>.:Archive commands.JindoFS分层存储...
- 产品推荐
- 这些文档可能帮助您