数据上云场景

使用DataWorks结合DataX进行Hadoop数据迁移的示例请参见 Hadoop数据迁移新手教程,或参见视频教程 Hadoop数据迁移到MaxCompute最佳实践。Sqoop执行时,会在原来的Hadoop集群上执行MR作业,可以分布式地将数据传输到MaxCompute上,详情请...

存储说明

本文介绍E-MapReduce集群中数据存储相关的信息,包括磁盘角色、云盘与本地盘,以及OSS。背景信息 关于存储的类型、性能和相关的限制信息,请参见 什么是块存储。存储价格估算如下:本地盘实例存储为0.04 元/GB/月 OSS标准型存储为0.12 元/...

常见问题

DAS企业版 V3超出最近7天的数据,采用的存储方式是冷数据存储,相较DAS企业版 V1数据的存储方式,数据没有全文索引等信息,并且底层采用snappy对数据进行高效压缩,所以数据量最多可降低为旧版的30%,从而极大降低了存储成本。如何查看企业...

存储类型概述

对象存储OSS提供标准、低频访问、归档、冷归档、深度冷归档多种存储类型,全面覆盖从热到冷的各种数据存储场景。说明 各存储类型的定价,请参见 OSS产品定价。各存储类型的计费方式,请参见 存储费用。标准存储(Standard)提供高可靠、高...

OceanBase 数据库支持版本

数据库对象(MySQL 模式)本文档为您介绍 OceanBase 数据库 MySQL 模式下所支持的数据库对象类型、存储方式数据库对象。与 MySQL 兼容性对比 本文档主要介绍 OceanBase 数据库的 MySQL 模式与原生 MySQL 数据库的兼容性对比信息。PL 参考...

从自建HDFS迁移数据

背景介绍 在某些场景下面,我们需要从自建的Hadoop存储数据迁移到Lindorm的文件引擎当中。适用范围 阿里云ECS自建Hadoop集群中的数据迁移到文件引擎。准备工作 开通文件引擎,详情请参见 开通指南。修改Hadoop 配置信息,详情请参见 ...

什么是对象存储OSS

数据存储到阿里云OSS以后,您可以选择标准存储(Standard)作为移动应用、大型网站、图片分享或热点音视频的主要存储方式,也可以选择成本更低、存储期限更长的低频访问存储(Infrequent Access)、归档存储(Archive)、冷归档存储(Cold ...

最佳实践概览

通过DataWorks将MaxCompute数据同步至Elasticsearch 通过阿里云Logstash将MaxCompute数据同步至Elasticsearch 通过实时计算处理数据并同步到Elasticsearch 通过DataWorks将Hadoop数据同步至Elasticsearch 存储产品迁移 从Solr集群迁移文档...

备份恢复概览

备份原理 OceanBase 数据库采用了读写分离架构,其内部数据存储方式被细分为两大类:一类是基于 SSTable 格式的基线数据,另一类则是基于 MemTable 格式的增量数据。基线数据代表了已整合并持久化到硬盘的全部数据总和,它被智能地分割为...

成本

外表存储 除内部存储外,AnalyticDB PostgreSQL版 支持通过外表方式访问OSS和Hadoop存储数据。对象存储(OSS)是阿里云推出的存储服务,具备数据量大、成本低、安全性高、可靠性高的特点,能够满足多种场景的存储需求,存储成本低至 0.12...

配置OSS/OSS-HDFS Credential Provider

使用Hadoop Credential Providers存储AccessKey信息 上面基本配置方式中的 fs.oss.accessKeyId 和 fs.oss.accessKeySecret 将会明文配置在 core-site.xml 中,您可以将其以加密对方式存储Hadoop Credential Providers文件中。使用Hadoop...

配置OSS/OSS-HDFS Credential Provider

使用Hadoop Credential Providers存储AccessKey信息 上面基本配置方式中的 fs.oss.accessKeyId 和 fs.oss.accessKeySecret 将会明文配置在 core-site.xml 中,您可以将其以加密对方式存储Hadoop Credential Providers文件中。使用Hadoop...

ECS应用角色(EMR 3.32及之前版本和EMR 4.5及之前版本...

EMR自带服务中运行的作业均可以自动基于MetaSerivce服务免明文AccessKey访问阿里云资源(OSS、LogService和MNS)以下是使用MetaService(新)和不使用MetaService(旧)的对比示例:通过Hadoop命令行查看OSS数据方式 hadoop fs-...

平台安全诊断

平台安全诊断目前支持的安全域说明如下:数据计算与存储安全性诊断 用于对数据权限的控制、数据存储加密、数据存储备份等功能进行安全性诊断,及时识别潜在的安全隐患,提升在数据存储与访问过程中的安全性。数据传输安全性诊断 用于对数据...

JindoData概述

JindoData是阿里云开源大数据团队自研的数据存储加速套件,面向大数据和AI生态,为阿里云和业界主要数据存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现,主要包括JindoFS存储系统(原JindoFS Block模式)、...

概述

表(Table)数据存储在Kudu的位置。Table有Schema和全局有序的Primary Key属性,且可以划分为多个Tablet。分片(Tablet)一个表可以被分到若干个分片中,称为Tablet。一个Tablet是指表上一段连续的Segment。一个特定的Tablet会被复制到多个...

通过实时计算订阅数据

参数 说明 数据存储类型 DataHub数据存储。EndPoint 通过 DataHub访问域名 获取。Project DataHub的项目名称,可在 DataHub控制台 中获取。使用同样的方式注册RDS数据存储,参数说明如下。参数 说明 Instance RDS的实例ID,可在RDS实例的 ...

引擎类型

计算引擎是基于云原生架构提供的分布式计算服务,支持社区版计算模型以及编程接口,同时深度融合Lindorm存储引擎特性,利用底层数据存储特征以及索引能力,高效地完成分布式作业任务。流引擎 兼容SQL、Kafka接口 IoT数据处理、应用日志处理...

HBase存算一体转存算分离

由于存算分离架构下,HBase表数据存储到了OSS-HDFS,WAL文件还需要存储到本地HDFS,所以需要修改 hbase-site.xml 配置文件的配置项。参数 说明 hbase.rootdir 修改为 oss:/${test-bucket}.${region}.oss-dls.aliyuncs.com/${hbase}。hbase....

新建Paimon数据

在 新建数据源 对话框的 大数据存储 区域,选择 Paimon。如果您最近使用过Paimon,也可以在 最近使用 区域选择Paimon。同时,您也可以在搜索框中,输入Paimon的关键词,快速筛选。在 新建Paimon数据源 对话框中,配置数据源的基本信息。...

数据重排

在MaxCompute的使用过程中,如果已经积累了大量数据占用了大量存储资源,且已经通过削减数据存储生命周期和删除非必要数据等方式进行了治理,在您的存储预算有限,计算资源还有冗余的情况下,可以考虑使用数据重排方式对存储空间进行优化。...

简介

本文主要介绍HBase Ganos的功能、优势和使用场景。重要 HBase增强版已全新升级为云原生多模...原生提供基于“分块”理念的数据存储和组织方式,保留原始像元信息,有效支撑各类分析计算场景。与Spark集成,ETL与多源空间数据分析处理更便捷。

概述

说明 全局二级索引和多元索引的更多信息请参见 海量结构化数据存储技术揭秘:Tablestore存储和索引引擎详解。表分区裁剪:根据过滤条件进行逻辑分区(Split)的细化匹配,提前筛选出无效的Split,降低服务端的数据出口量。Projection和...

基本概念

物理库 物理库,是数据库在物理存储设备上的物理表示和存储方式,包括数据文件、日志文件、索引文件等。创建 AnalyticDB for MySQL 集群时,会自动创建一个物理库。每一个物理库被切分为若干个分片(Shard)。这些分片分布到若干个节点组...

什么是EMR Serverless StarRocks

也支持HDFS、S3、OSS等存储方式。在数据湖分析场景中,StarRocks主要负责数据的计算分析,而数据湖则主要负责数据的存储、组织和维护。使用数据湖的优势在于可以使用开放的存储格式和灵活多变的Schema定义方式,可以让BI、AI、AdHoc、报表...

设置数据保留策略

数据保留策略介绍 InfluxDB可以通过定义数据保留策略,用来控制存储数据量的方式。新创建的数据库默认的保留策略是 autogen,初始化的保留策略时长为0s,表示数据永久保存;分片时长默认为7天,您可以根据需求来修改存储策略。创建保留策略...

数据服务系统配置

API缓存数据存储位置 在 API缓存数据存储位置 区域,单击 修改 按钮,支持指定API缓存数据的存储位置。Dataphin系统的redis:将缓存数据存储到系统公共的Redis中,将与其他模块共享存储空间,适用于缓存数据量较小的场景。应用内存:缓存...

数据分层存储计费规则

本文介绍开启冷数据分层存储后,在冷数据存储方面的计费规则。计费规则 当 开启冷数据分层存储 后,PolarDB PostgreSQL版 支持将集群的冷数据转存至低成本的OSS上进行存储,以降低数据存储成本。说明 更多关于冷数据分层存储的详细介绍,请...

物联网存储介绍

基于物联网场景中多源异构数据存储、高并发吞吐、海量数据高性价比存储、多维度数据处理与分析等需求,表格存储推出了一站式物联网存储IoTstore解决方案,为物联网设备元数据、消息数据、时序轨迹等海量数据提供存储、查询、检索、分析、...

数据分层存储计费规则

本文介绍开启冷数据分层存储后,在冷数据存储方面的计费规则。计费规则 当 开启冷数据分层存储 后,PolarDB PostgreSQL版(兼容Oracle)支持将集群的冷数据转存至低成本的OSS上进行存储,以降低数据存储成本。说明 更多关于冷数据分层存储...

按扫描量付费

数据分区:通过分区的方式,把原始数据存储在不同的分区中,DLA只扫描其中的一个或者几个分区,无需扫描所有分区,从而节省扫描费用。计费示例 您在OSS中存储了两个容量均为1 TB的CSV文件和JSON文件,在RDS中存储一个容量为1TB的数据表。...

东软案例

其中Lindorm作为核心运维数据存储、检索引擎全量接收来自移动终端、网络嗅探器、业务监控探针、日志采集器等多种数据来源实时采集的异构监控数据,以高并发、高通量数据写入方式将数据入库。在运维过程中,用户通过实时监控仪表盘、统计...

冷热数据分层存储

为了降低数据存储成本、提高查询性能和系统资源利用率。云数据库ClickHouse 提供了冷热数据分层存储的功能。您可以根据查询频率将数据存储在不同类型的磁盘中。本文介绍如何开启冷热数据分层存储功能和设置分层存储策略。前提条件 云数据库...

应用场景

表格存储 有互联网应用架构(包括数据库分层架构和分布式结构化数据存储架构)、数据湖架构和物联网架构三种典型应用架构。本文结合 表格存储 的典型应用架构介绍了不同应用架构下的应用场景。互联网应用 目前互联网已在日常生活中广泛应用...

数据存储计费规则(可选)

本文介绍了开启冷数据归档功能后,在冷数据存储方面的计费规则。当 开启冷数据归档 后,PolarDB 企业版支持将集群的冷数据转存至低成本的OSS上进行存储,以降低数据存储成本。说明 更多关于冷数据归档的详细介绍,请参见 冷数据归档概述。...

应用场景

物联网存储IoTstore作为物联网的统一数据存储平台,可应用于车联网、智能家居、工业物联网等场景。车联网 车联网是物联网技术在智能交通领域的典型应用。在智能交通领域通过使用物联网、云计算、传感器、大数据、无线通信等技术对交通信息...

数据存储

时序数据存储 时序数据库对时序数据的写入、聚合以及检索都做了特定优化,AnalyticDB采集到的时序数据主要存在时序数据库中。目前每个AnalyticDB实例有一个独立的时序数据库进行服务,只保存当前AnalyticDB实例的时序数据。日志数据存储 ...

应用场景

可以将访问频度非常高的数据存储在云数据库 Memcache 版中,底层数据存储在 RDS 中。大型促销类业务 大型促销秒杀系统,系统整体访问压力非常大。一般的数据库根本无法承载这样的读取压力,可选用云数据库 Memcache 版存储。带有计数器的...

时序模型计量计费

计费项 时序数据 计费项 计费方式 描述 时间线数据 数据存储 按量付费 资源包 根据实例规格支持高性能存储或者容量型存储。时间线数据支持更高的数据压缩。按量写吞吐量 按量读吞吐量 按量付费 资源包 按照容量型计费。单位为 CU。时序线...

某网约车公司车辆轨迹数据

车辆数据需要存储3年,日增数据量100 GB,3年总数据量超100 TB,数据存储成本高昂。解决方案 在原有的架构上引入了阿里云数据库,并将全量数据写到 云原生多模数据库 Lindorm 中,同时增量数据通过Kafka、Spark等实时同步到 云原生多模数据...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
对象存储 云数据库 RDS 开源大数据平台 E-MapReduce 数据库备份 DBS 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用