方案分析
很多企业选择开源HBase来存储账号关系，开源HBase在满足了上述四个特征的同时可以把系统搭建起来，但是仍会有如下问题：对比项 表格存储 开源HBase 运维复杂度 全托管的分布式NoSQL存储服务，无需任何运维 需要自己运维、调查问题、修复...
功能特性
服务器端加密 客户端加密 OSS客户端加密是在数据上传至OSS之前，由用户在本地对数据进行加密处理，确保只有密钥持有者才能解密数据，增强数据在传输和存储过程中的安全性。客户端加密 合规保留策略 OSS保留策略具有WORM（Write Once Read ...
功能特性
数据库文件存储 功能集 功能 功能描述 参考文档 DBFS特性 原子写 支持DIRECT IO的原子写，需按4K，8K，16K对齐-共享读写 一份数据可共享式多点挂载并进行读写，读写可线性扩展-存储加密 通过对数据库文件存储实施加密，可以确保数据库文件...
新功能发布记录
本文介绍对象存储OSS每次发布涉及的功能变更及对应的文档，帮助您了解OSS的发布动态。2024年04月 功能名称 功能概述 发布时间 支持地域 相关文档 文档智能处理 由智能媒体管理（IMM）提供的针对文档的AI处理功能，包括文档内容翻译、文档...
使用表格存储过程中返回503错误码
问题描述 在使用表格存储的过程中，偶尔会出现503错误，详细错误信息请参见下表。HTTPStatus ErrorCode ErrorMsg 503 OTSPartitionUnavailable The partition is not available.503 OTSServerUnavailable Server is not available.503 ...
操作指南FAQ
本文介绍使用云存储网关过程中的常见问题。云上部署FAQ 创建网关时找不到可用交换机如何处理？云存储网关升级失败了该如何处理？本地部署FAQ 如何检测网关网络的联通性？如何在本地数据中心部署云存储网关？云存储网关升级失败了该如何处理...
计费概述
在使用文件存储NAS或文件存储CPFS过程中，除了文件存储NAS或文件存储CPFS收费的计费项之外，还可能涉及以下费用支出。文件存储NAS 文件备份费用 文件存储NAS支持与云备份（Cloud Backup）服务无缝集成。您可以在NAS控制台定期备份NAS文件，...
计费概述
在使用文件存储CPFS过程中，除了文件存储CPFS收费的计费项之外，还可能涉及以下费用支出。CPFS-POSIX管理节点费用 在文件存储控制台为CPFS文件系统添加POSIX挂载点时创建的3个用于客户端管理的ECS实例，将根据云服务器ECS的产品价格计费。...
为什么使用表格存储过程中会有少量的500错误
不少用户在使用表格存储的过程中偶尔会接到一些500错误，主要错误码如下。HTTPStatus ErrorCode ErrorMsg 503 OTSPartitionUnavailable The partition is not available.503 OTSServerUnavailable Server is not available.503 ...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
产品计费
其他费用 在使用云存储网关过程中，除了云存储网关收费的计费项之外，还有其他费用支出。OSS使用费用 云存储网关中的OSS资源归您所有，网关访问OSS产生的费用由OSS产品向您收取，这些费用包括存储费用、流量费用、请求费用和数据取回费用，...
通用型NAS计费
低频存储读流量 1 GiB×0.06元/GiB=0.06元 低频存储写流量 2 GiB×0.06元/GiB=0.12元 存储包+按量计费 假设张先生在华北2（北京）地域购买了500 GiB的存储包，需支付总费用165.195元，计费明细如下：计费项 费用 说明 通用型存储容量（容量...
CDH6数据迁移
本文介绍如何将CDH中本地HDFS的数据迁移到 文件存储 HDFS 版，实现存储计算分离。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已在阿里云上创建ECS实例并安装CDH6集群。...
管理日志
E-Mapreduce（简称EMR）开源组件运行过程中会产生大量的日志。日志管理功能将EMR与日志服务SLS相结合，允许您在EMR控制台直接查询开源组件的日志。前提条件 已在EMR控制台上创建集群，具体操作请参见 创建集群。已开通SLS服务，具体操作请...
方案背景
例如存储车辆行驶过程中的GPS坐标数据用于导航大屏上的轨迹展示，在交通管理中通过分析车辆一段时间内的速度变化用于判断车辆在区间内是否超速等。因此车联网场景下车辆轨迹数据存储与分析的需求如下：数据存储：车辆轨迹数据会随着时间...
方案实现
在使用开源Redis方案时，为降低成本、减少开源Redis里面存储的数据量。一般会采取仅在Redis中存储Feed ID而不存储Feed内容。整体数据量大幅减少，但是在读取的时候需要先读Feed ID，然后在到存储系统里面去读取Feed内容，网络开销增长了一...
性能测试
只有小部分查询耗时与开源GeoMesa（HBase）和云数据库MongoDB分片集群相同，测试结果如下：总结 从测试过程和结果来看，Lindorm Ganos引擎相比于开源GeoMesa（HBase）和云数据库MongoDB分片集群具有以下优势：使用简单，通过SQL语句方便...
JindoFS块存储模式
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
logging（日志转存）
访问对象存储OSS的过程中会产生大量的访问日志，您可以通过日志转存功能将这些日志按照固定命名规则，以小时为单位生成日志文件写入您指定的Bucket。您可以通过 logging 命令开启、查询、关闭Bucket的日志转存配置。注意事项 要开启日志...
产品优势
特性对比 Lindorm VS 开源HBase VS 开源Cassandra Lindorm宽表引擎是面向海量半结构化、结构化数据设计的分布式存储，兼容HBase、Phoenix(SQL)、Cassandra等开源标准接口，下表介绍Lindorm与开源HBase和开源Cassandra的区别。特性 云原生多...
免费体验Lindorm宽表性能&价格力
背景 云原生多模数据库Lindorm面向海量泛时序数据、半结构化数据和非结构化数据提供低成本存储、在线查询和检索、离线分析、AI 推理等一站式数据服务，支持MySQL协议，兼容HBase、Elasticsearch、Hive、Spark、HDFS 等开源标准。...
选型配置说明
存储价格估算如下：本地盘实例存储为0.04 元/GB/月 OSS标准型存储为0.12 元/GB/月 OSS归档型存储为0.033 元/GB/月 OSS深度归档型存储为0.015 元/GB/月 高效云盘存储为0.35 元/GB/月 SSD云盘存储为1.00 元/GB/月 云盘的具体价格信息，请参见...
Iceberg概述
对比项 子项目 开源Clickhouse实时数仓 开源Hive离线数仓 阿里云Iceberg数据湖 系统架构 架构 计算存储一体 计算存储分离 计算存储分离 多计算引擎支持 不支持 支持 支持 数据存储在对象存储 不支持 支持不完善 支持 数据存储在HDFS 不支持...
Hadoop集群迁移至DataLake集群
迁移过程将充分考虑旧集群的版本、元数据类型以及存储方式，并针对这些因素，提供适应新集群的迁移策略与步骤。背景信息 E-MapReduce（简称EMR）新版控制台是EMR发布的下一代云原生开源大数据平台，为用户提供全新平台体验、全新开发平台、...
Lindorm for Cassandra应用实践
Lindorm 是一款适用于任何规模、多种模型的云原生数据库服务，支持海量数据的低成本存储处理和弹性按需付费，提供宽表、时序、搜索、文件等多种数据模型，兼容HBase、Cassandra、Phoenix、OpenTSDB、Solr、SQL等多种开源标准接口，...
背景
业务接入流程 当您有一块业务需要使用表格存储作为数据库时，通常会经历几个过程：了解表格存储（场景案例和文档），业务需求分析，直接对照方案实现、方案设计及编码实现（表结构和查询），接入业务数据测试上线。根据业务场景能否直接...
Delta Lake概述
背景信息 通常的数据湖方案是选取大数据存储引擎构建数据湖（例如，阿里云对象存储OSS产品或云下HDFS），然后将产生的各种类型数据存储在该存储引擎中。在使用数据时，通过Spark或Presto对接数据分析引擎并进行数据解析。但该套方案存在...
计费规则
可观测链路 OpenTelemetry 版 对链路上报和存储、指标存储进行按量付费。本文介绍按量计费模式的计费项和付费方式。重要 本文所涉及价格请以 产品定价页 为准。基本概念 请求链路（Trace）：一个请求链路代表一个事务或者流程在（分布式）...
Hadoop DistCp介绍
Hadoop DistCp（分布式复制）是一个用于大型集群间或集群内数据复制的工具，通过MapReduce实现复制过程中数据的分发、错误处理、恢复及报告。本文为您介绍Hadoop DistCp与Jindo DistCp的区别、Hadoop DistCp使用方法以及常见问题。说明 ...
迁移开源HDFS的数据到文件存储 HDFS 版
本文档介绍如何将开源HDFS的数据平滑地迁移到 文件存储 HDFS 版。背景信息 当前业界有很多公司是以Hadoop技术构建数据中心，而越来越多的公司和企业希望将业务顺畅地迁移到云上。文件存储 HDFS 版 可以帮助您实现将开源HDFS的数据迁移到云...
Trino概述
Trino（即原PrestoSQL）是一个开源的分布式SQL查询引擎，适用于交互式分析查询。EMR-3.44.0和EMR-5.10.0版本开始改用社区正式名称Trino，之前各版本控制台显示为Presto，内核其实是Trino，使用时请注意区分。基本特性 Trino使用Java语言...
E-MapReduce数据迁移
如果涉及将云下集群的数据迁移到阿里云 文件存储 HDFS 版 文件系统，请参见 迁移开源HDFS的数据到文件存储HDFS版。如果E-MapReduce HDFS文件系统上的数据量较小，可以使用 hadoop fs-cp 命令进行数据迁移。为了避免因为权限问题导致数据...
基本概念
本文介绍开源大数据平台E-MapReduce使用过程中遇到的常用名词的基本概念和简要描述。集群 E-MapReduce产品中的一个独立的机器组合，为上层业务提供一些基础的引擎服务。一个E-MapReduce集群是由一个或多个阿里云ECS实例组成的。ECS实例 在E...
SmartData使用说明（EMR-3.20.0~3.22.0版本）
应用场景 E-MapReduce目前提供了三种大数据存储系统，E-MapReduce OssFileSystem、E-MapReduce HDFS和E-MapReduce JindoFS，其中OssFileSystem和JindoFS都是云上存储的解决方案，下表为这三种存储系统和开源OSS各自的特点。特点 开源OSS E-...
Presto概述
Worker节点负责执行下发到任务，通过连接器读取外部存储系统到数据，进行处理，并将处理结果发送给Coordinator节点。Presto当前不支持高可用架构。在EMR集群中，Coordinator仅会部署在master-1-1节点上；Worker部署在全部Core和Task节点上...
JindoFS实战演示
Presto如何高效查询OSS数据 Presto如何高效查询OSS数据 2021-06-08 Presto是一个开源的分布式SQL查询引擎，能够在任何存储介质上进行查询，支持原地查询，无需迁移数据。如果您已将HDFS数据迁移至OSS中，可通过在Presto中使用JindoFS SDK，...
EMR元数据迁移公告
数据湖元数据DLF是阿里云提供的统一元数据服务，具有高可用、免运维和高性能等优点，兼容Hive Metastore，无缝对接EMR上开源计算引擎，并支持多版本管理和Data Profile功能。另外，DLF还支持数据探索、湖管理和数据权限控制等功能，并与...
EMR-3.22.x版本说明
Kudu版本基于开源社区Apache Kudu1.10.0版本。OpenLDAP 新增组件，取代ApacheDS，ApacheDS下线。高可用。更新内容 组件 详细信息 JindoFileSystem 多种存储模式 Block模式：数据以Block形式存储在后端存储OSS上，本地Namespace服务维护...
应用场景
阿里云开源大数据平台E-MapReduce（简称EMR）具有广泛的应用场景。本文为您介绍EMR的主要应用场景。数据湖场景 DataLake集群类型提供了数据湖分析场景所需的服务和相关湖格式，包括Hadoop、OSS-HDFS、Hive、Spark、Presto等。通过选择OSS-...
Flink DataStream参考
上下游存储（Connector）开源Flink的上下游存储，请参见 DataStream Connectors。DataFlow集群中新增支持的上下游存储，请参见下表。Connector版本 EMR版本 Connector类型 文档及Demo 1.13-vvr-4.0.10及以上 EMR-3.38.0及以上 ververica-...
- 产品推荐
- 这些文档可能帮助您