JindoCube使用说明
必选 Provider Cache数据的存储格式，支持JSON、PARQUET、ORC等所有Spark支持的数据格式。必选 Partition Columns Cache数据的分区字段。可选 ZOrder Columns ZOrder是一种支持多列排序的方法，Cache数据按照ZOrder字段排序后，对于基于...
JindoCube使用说明
必选 Provider Cache数据的存储格式，支持JSON、PARQUET、ORC等所有Spark支持的数据格式。必选 Partition Columns Cache数据的分区字段。可选 ZOrder Columns ZOrder是一种支持多列排序的方法，Cache数据按照ZOrder字段排序后，对于基于...
成本
存储分层能力 很多分析场景的数据具有一定的时效性，时间越近的数据访问频率越高、越远的数据访问频率越低。AnalyticDB PostgreSQL版 能够根据需求，自动地将部分时效性较低的数据进行归档、使用OSS等成本更低、访问速度较慢的存储介质替换...
JindoData概述
JindoData是阿里云开源大数据团队自研的数据湖存储加速...结合计算引擎的使用推出的一套解决方案，支持Spark、Hive和Presto等引擎，以及表格式数据的管理功能。生态插件。除了默认提供JindoSDK支持Hadoop，另外还支持Flink Connector等插件。
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
Hudi格式数据关系数据库全量入湖 最大资源并行度 DLF将启动Worker节点完成数据入湖，此配置项表示同时运行的最大Worker数量。20 在DLF控制台的 入湖任务管理 页面单击目标任务 操作 列的 运行。当任务 执行进度 达到100%时，表示OSS数据...
引擎简介
与多模引擎共享存储，LindormDFS支撑，充分利用了对象存储的低成本与高可靠、块存储的高性能等优势，并通过高低速分层存储、副本共享去重、智能冷热转存等技术，面向用户提供弹性低成本、100%HDFS协议兼容的云原生大数据存储能力，可使用...
Serverless存储层
实时数据存储在热存储（SSD）上，保证超低延时的写入和查询性能，可提供行级数据实时性。全量数据以微分区（Micro Partitions）的形式存储，大幅度优化传统数仓中出现的IO放大和写放大的问题，提供高吞吐的读写能力。同时，利用OSS和PANGU...
ActionTrail日志清洗
说明 根据业务需求，判断是否需要新建文件夹，将ActionTrail投递过来的数据存储在新建文件夹中。在DLA中完成以下操作：开通DLA服务，请参见 开通云原生数据湖分析服务。初始化DLA数据库主账号密码，请参见 重置数据库账号密码。步骤一：...
概述
适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。更多信息，请参见 什么是表格存储。云原生大数据计算服务（MaxCompute）是一...
产品架构
并且随着业务的发展，数据的类型会越来越多，对不同种类数据的差异化处理需求会日渐增加，会导致数据存储碎片化更加严重。当前信息化技术发展面临的一个主要矛盾是"日益多样的业务需求带来的多种类型数据与数据存储技术架构日趋复杂成本...
新功能发布记录
2024年 04月 类别 功能名称 功能描述 发布时间 相关文档 新增 数据归档 RDS PostgreSQL通用云盘支持数据归档功能，可以将对象存储（OSS）用作归档冷数据的存储介质，从而显著降低存储成本。04-23 数据归档 新增 下载备份 RDS PostgreSQL ...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
表数据格式
数据存储分桶 为了进一步优化读写效率，Transactional Table 2.0支持按照BucketIndex对数据进行切分存储，BucketIndex数据列默认复用PK列，bucket数量可通过配置表属性 write.bucket.num 指定，因此对同一张表或分区的数据，写入数据会按PK...
数据集成概述
网络连通：支持单地域内及部分跨地域的数据存储相互同步、交换的数据同步需求。部分地域之间可以通过经典网络传输，但不能保证其连通性。如果测试经典网络不通，建议您使用公网方式进行连接。数据传输：数据集成仅完成数据同步（传输），...
入湖基础操作
数据湖存储位置：数据存储的OSS路径，入湖任务会自动创建此处填写的空文件夹来存储数据。分区信息：添加需要写入的分区信息。分区表达式：填写描述分区值的获取方式，比如 MySQL 中from_unixtime(gmt_create)。分区字段：填写分区字段名称...
实例操作
本文介绍如何使用Tablestore CLI以命令行的方式管理表格存储实例。开通表格存储服务 如果已经开通表格存储服务，请跳过此操作。服务仅需开通一次，开通过程免费。命令格式如下，用于开通表格存储服务。enable_service 返回结果如下：Your ...
22.8版本新特性概览
支持JSON类型和动态子列 老版本的JSON格式数据读写方式 在22.8之前的版本中，ClickHouse支持以String类型来存储JSON对象，因为JSON对象是文本格式，需要通过特殊的String解析函数来解析复杂的JSON结构，从而获得JSON对象内部字段信息。...
UTL_ENCODE
UTL_ENCODE内置包提供了一组进行数据编解码的函数，方便数据在不同主机之间的传输。UTL_ENCODE子程序总览 子程序 描述 BASE64_DECODE Function 读取BASE64编码的RAW类型输入数据，并将其解码为原始的RAW类型数据。BASE64_ENCODE Function ...
按扫描量付费
然后将GZIP格式的数据分区存储，将待扫描的数据存储在同一个分区中。DLA只扫描一个分区，扫描的数据量降低至0.2 TB。将1 TB的JSON文件转换为ORC格式，DLA只需按列扫描其中10%的数据，扫描的数据量降低至0.1 TB。经过数据格式转换、压缩和...
概述
以下是常见的应用场景：数据存储与计算安全场景：在不可信环境中（如第三方平台），Spark全密态计算引擎 可以为关键的数据分析应用（如投资和财务分析）提供数据保护，保证用户数据在存储与计算过程中的安全，降低明文数据泄露风险。...
冷数据归档常见问题
本文汇总了 PolarDB 冷数据归档相关的常见问题。出现"[Data Lifecycle Management]DLM storage engine...PolarDB 的冷数据存储在系统默认的OSS上，不在客户的OSS里，所以客户无法看到。目前只支持在PolarDB控制台上查看归档后的冷数据和文件。
通过缓存优化性能
Delta缓存通过使用快速中间数据格式在节点的本地存储中创建远程文件的副本来加速数据读取。每当需要从远程位置获取文件时，数据都会自动缓存。然后在本地的连续读取上述数据，从而显著提高读取速度。说明 详细内容可参考Databricks官网文章...
产品概述
存储节点（Data Node，DN），主要提供数据存储引擎，基于多数派Paxos共识协议提供高可靠存储、分布式事务的MVCC多版本存储，另外提供计算下推能力满足分布式的计算下推要求（比如Project/Filter/Join/Agg等下推计算），可支持本地盘和共享...
产品整体介绍
Segment Segment是负责具体的SQL执行和数据存储节点。其中本地元数据（Local Catalog，与Master Node Global Catalog保持同步）起到加速执行的功能（Segment无需每次访问Master Node获得元数据信息）；本地事务管理器（Local Transaction ...
配置自动下载备份集
全量数据 支持如下数据库引擎：MySQL SQL Server MariaDB PostgreSQL Oracle MongoDB 说明 MongoDB的数据格式为 json，其余的数据格式均为 CSV。支持如下数据库引擎：MySQL SQL Server 说明 MySQL的数据为Xtrabackup产生的数据格式，并进行...
备份集下载功能概览
数据库备份DBS 为云数据库、ECS自建数据库提供灵活的备份与恢复功能，同时也支持将云上备份集下载到本地，进一步增强数据的安全性。您可通过手动或自动模式进行数据下载，下载的备份集可用于恢复到本地数据库、Excel分析与审计、备份到本地...
导入概述
适用场景 场景 描述 HDFS导入 如果HDFS导入源数据存储在HDFS中，当数据量为几十GB到上百GB时，则可以采用Broker Load方法向StarRocks导入数据。此时要求部署的Broker进程可以访问HDFS数据源。导入数据的作业异步执行，您可以通过 SHOW LOAD...
创建Kudu数据源
在 新建数据源 对话框的 大数据存储 区域，选择 Kudu。如果您最近使用过Kudu，也可以在 最近使用 区域选择Kudu。同时，您也可以在搜索框中，输入Kudu的关键词，快速筛选。在 新建Kudu数据源 对话框中，配置连接数据源参数。配置数据源的...
2023年
您可以根据数据的访问频率，将某些表或分区的存储类型设置为低频存储或长期存储，以降低数据存储费用。分层存储 2023年10月更新记录 时间 特性 类别 描述 产品文档 2023-10-30 新增Spark Connector 新说明 本文为您介绍如何使用第三方计算...
数据归档至专属存储
本文为您介绍如何将数据归档至专属存储中（存储在 DMS）、将专属存储的数据转存至OSS，以及删除归档至专属存储的数据等操作。前提条件 源数据库类型为：MySQL：RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。说明 MySQL数据库账号...
添加数据
空间数据提供对矢量、栅格、矢量瓦片、栅格瓦片、三维模型、倾斜摄影、BIM、点云等数据的添加，支持通过上传文件和对象存储两种通用的方式添加数据。本文主要介绍如何添加各类空间数据。前提条件 已在云存储上存储了数据文件。背景信息 ...
使用限制
项目 说明 List数据类型 List及其包含的元素个数无限制，但单个元素的最大值为512 MB。推荐List的元素个数小于8192，整体Value不超过1 MB。Set数据类型 Set及其包含的元素个数无限制，但单个元素的最大值为512 MB。推荐Set的元素个数小于...
数据导入概览
从阿里云对象存储OSS导入数据至图数据库GDB实例 图数据库GDB服务端集成有数据导入模块，可以获取您提供的.csv格式的OSS数据文件，并将其解析为图中的点数据和边数据，然后将点数据和边数据导入至图数据库GDB实例。步骤 步骤说明 ① 将需要...
使用限制
项目 说明 List数据类型 List及其包含的元素个数无限制，但单个元素的最大值为512 MB。推荐List的元素个数小于8192，整体Value不超过1 MB。Set数据类型 Set及其包含的元素个数无限制，但单个元素的最大值为512 MB。推荐Set的元素个数小于...
手动下载备份集
当您需要将备份集恢复到本地数据库、进行Excel分析与审计、或备份到本地存储时，您可手动下载备份集。本文向您介绍手动下载备份集的操作步骤。功能限制与格式说明 说明 为确保备份集的顺利下载，下载前请先留意目标备份集的有效期。考虑到...
OSS数据安全防护最佳实践
背景信息 敏感数据主要包括个人隐私信息、密码、密钥、敏感图片等高价值数据，这些数据通常会以不同的格式存储在您的OSS Bucket中，一旦发生泄漏，会给企业带来重大的经济和名誉损失。DSC 在您完成数据源识别授权后，从您存储在OSS的海量...
什么是EMR Serverless StarRocks
使用数据湖的优势在于可以使用开放的存储格式和灵活多变的Schema定义方式，可以让BI、AI、AdHoc、报表等业务维持在统一的单点身份可信（Single Source of Truth），而StarRocks作为数据湖的计算引擎，可以充分发挥向量化引擎和CBO（Cost ...
物联网平台数据接入
通过使用规则引擎数据流转功能，将物联网平台中的设备数据转发到表格存储（Tablestore）中存储。前提条件 已创建物联网平台企业版实例并将设备接⼊到企业版实例。具体操作，请参见 购买企业版实例 和 设备接入和上报数据。已开通表格存储...
导入数据并查询
对于Parquet格式数据文件，直接查询的性能一般也比较高，您可以根据需要决定是否进一步导入到 AnalyticDB for MySQL 后再做查询。通过 CREATE TABLE，在 adb_demo 数据库中创建目标表 adb_oss_import_test 存储从OSS中导入的数据。CREATE ...
存储格式与SerDe
DLA内置了处理各类数据文件的Serialize/Deserilize（简称SerDe，用于序列化和反序列化），您无需编写程序，直接选用一款或多款SerDe来匹配OSS上的数据文件格式。通过SerDe，DLA可以对OSS上的多种格式的文件进行查询分析，包括纯文本文件...
- 产品推荐
- 这些文档可能帮助您