Iceberg连接器

属性名 描述 format 指定表的数据文件存储格式。支持以下格式:ORC(默认值)PARQUET partitioning 指定表的分区。例如,表的分区列有c1和c2,该属性便为partitioning=ARRAY['c1','c2']。location 指定表所在的文件系统地址URI。例如,下表...

存储格式与SerDe

STORED AS JSON 数据文件存储格式为JSON(Esri ArcGIS的地理JSON数据文件除外)。通过 STORED AS 指定文件格式的同时,还可以根据具体文件的特点,指定SerDe和特殊列分隔符等,详细地使用方法将在各类型文件格式示例中为您讲解。

入门概述

通过NFSv3协议访问CPFS文件系统 协议服务 在服务器中卸载挂载的文件系统 卸载文件系统 删除文件系统 删除文件系统 与对象存储OSS之间实现数据流动 数据流动 监测文件的使用量 数据监控 备份文件系统中的数据 文件存储CPFS(NFS协议)备份 ...

功能特性

挂载DBFS 卸载DBFS 从ECS云服务器上卸载数据文件存储 卸载DBFS 扩容DBFS 支持业务友好地在线扩充存储容量 在线扩容 格式化DBFS 格式数据文件存储操作会清空已写入的数据,建议操作前创建快照备份数据文件存储数据-重命名DBFS ...

上传数据

本文介绍在我的数据页面中针对三种不同类型数据,上传不同格式数据的方法。背景信息 在管理数据页面中,数据的类型分为 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六种。不同类型对应可上传的数据包括:矢量:在矢量页签内,...

上传数据

本文介绍在我的数据页面中针对三种不同类型数据,上传不同格式数据的方法。背景信息 在管理数据页面中,数据的类型分为 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六种。不同类型对应可上传的数据包括:矢量:在矢量页签内,...

整体架构

Transaction Table2.0的增量存储和处理架构的特殊设计主要集中在五个模块:数据接入、计算引擎、数据优化服务、元数据管理、数据文件组织,其他部分与MaxCompute通用的架构一致。本文为您介绍Transaction Table2.0的核心架构要点。...

Kafka集群的数据存储格式

DTS支持选择迁移或同步到Kafka集群的数据存储格式,本文为您介绍数据格式的定义说明,方便您根据定义解析数据数据存储格式 DTS支持将写入至Kafka集群的数据存储为如下三种格式:DTS Avro:一种数据序列化格式,可以将数据结构或对象转化...

Kafka集群的数据存储格式

DTS支持选择迁移或同步到Kafka集群的数据存储格式,本文为您介绍数据格式的定义说明,方便您根据定义解析数据数据存储格式 DTS支持将写入至Kafka集群的数据存储为如下三种格式:DTS Avro:一种数据序列化格式,可以将数据结构或对象转化...

准备工作

数据文件(点文件和边文件)导入至图数据库GDB实例前,您需要先准备好需要导入的数据文件、获取导入过程中使用到的实例信息等,使导入操作更加流畅。前提条件 已创建图数据库GDB实例,创建方法请参见 创建实例。已创建Bucket,创建方法请...

导入数据并查询

本文以数据文件存储在OSS中为例,介绍如何将OSS中的数据文件导入 AnalyticDB for MySQL 的 adb_demo 数据库中并进行查询。前提条件 通过以下步骤在OSS中创建存储 AnalyticDB for MySQL 数据的目录。开通OSS服务。详情请参见 开通OSS服务。...

计费常见问题

本文介绍文件存储NAS(通用型NAS/极速型NAS)计费常见问题。包括通用型NAS资源包如何使用或抵扣、NAS服务如何停止计费、购买资源包为什么还欠费等问题。开通NAS服务后,就开始计费吗?仅开通NAS服务,不会产生费用。当您在通用型NAS中写入...

通过外表导入至数仓版

说明 对于CSV格式、Parquet和ORC格式数据文件,数据量越大,通过外表查询的性能损耗越大。如果您需要进一步提升查询效率,建议您按照后续步骤将OSS数据导入 AnalyticDB MySQL版 后再做查询。创建目标表。在目标数据库 adb_demo 中创建一张...

通过外表导入至数仓版

HDFS数据文件格式需为CSV、Parquet或ORC。已创建HDFS集群并在HDFS文件夹中准备需要导入的数据,本文示例中所用文件夹为 hdfs_import_test_data.csv。已在HDFS集群中为 AnalyticDB MySQL 集群配置如下服务访问端口:namenode:用于读写文件...

CSV数据文件格式

本文介绍需要导入至图数据库GDB实例的CSV数据文件格式。背景信息 CSV数据文件遵循RFC 4180 CSV规范。更多信息,请参见 CSV文件的一般格式和MIME类型。重要 所有文件必须采用UTF-8格式编码。注意事项 必须将点和边分别放到单独的文件。说明 ...

使用curl命令导入数据文件

本文介绍使用curl命令将数据文件从对象存储OSS的Bucket中导入至图数据库GDB实例、查看导入任务和取消导入任务的方法。前提条件 已创建目标图数据库GDB实例,创建方法请参见 创建主实例。说明 如果Bucket是在对象存储控制台创建,请确保图...

UNLOAD

指定导出数据文件格式。例如ORC、PARQUET、RCFILE、SEQUENCEFILE和TEXTFILE。使用方法和MaxCompute外部表一致,请参见 创建OSS外部表。'<tbproperty_name>'='<tbproperty_value>':可选。tbproperty_name 为外部表扩展信息属性名称,...

UNLOAD

指定导出数据文件格式。例如ORC、PARQUET、RCFILE、SEQUENCEFILE和TEXTFILE。使用方法和MaxCompute外部表一致,请参见 创建OSS外部表。'<tbproperty_name>'='<tbproperty_value>':可选。tbproperty_name 为外部表扩展信息属性名称,...

如何优化数据导入导出

方式 数据格式 文件大小 耗时 性能(行/每秒)性能(MB/S)mysql-e命令导出原始数据 原始数据格式 1998 MB 33.417s 299248 59.8 mysql-e命令导出csv格式 csv格式 1998 MB 34.126s 293031 58.5 mysqldump工具(net-buffer-length=10KB)sql...

基础管理FAQ

如果您未在保留时间内补足欠款,将视为您主动放弃NAS存储服务,阿里云将终止本产品服务条款并停止为您继续提供服务,您保存在阿里云的全部数据将会被清理删除,清理后数据不可恢复。更多信息,请参见 欠费说明。如何查看已创建极速型NAS...

数据处理费用

按量付费:归档存储数据取回费用=解冻文件大小(GB)×归档存储文件数据取回单价 资源包:不支持 归档直读数据取回容量(RetrievalDataArchiveDirect)直读归档存储类型文件产生的费用。按直读文件的大小计费。重要 对于已解冻的归档存储...

Tunnel命令常见问题

使用Tunnel Upload命令上传数据时,需要上传很多数据文件到一个表中,是否有方法写一个脚本就可以把文件夹下的所有数据文件上传上去?使用Tunnel Upload命令上传数据时,如何实现批量上传一个目录下的多个文件到同一张表,并且每个文件放在...

数据下载

在DataWorks的数据开发(DataStudio)、数据分析、安全中心模块下载的CSV、XLSX格式文件数据将同步保存数据下载功能。通过该功能,您可将所需历史下载文件重新下载至本地使用,也可追溯历史下载记录的操作详情。前提条件 已通过如下模块...

使用DataWorks(离线与实时)

MaxCompute支持通过DataWorks的 数据集成 功能将其他数据源的数据以离线或实时方式导入MaxCompute,也支持将部分类型的本地文件数据导入MaxCompute。本文为您介绍使用DataWorks将数据导入MaxCompute的主要操作流程与注意事项。前提条件 已...

一般性问题

1.数据文件存储DBFS是什么,适合什么场景?数据文件存储DBFS是面向数据库场景优化的POSIX兼容的共享读写的文件存储系统。主要适用于:OLTP及OLAP数据库场景:例如,MySQL、PostgreSQL等。NoSQL数据库场景:例如,MongoDB、RocksDB等。2...

挂载问题

1.挂载数据文件存储(DBFS)的约束?数据文件存储(DBFS)默认会在“/mnt/dbfs”目录下创建挂载点(例如,“/mnt/dbfs/xxxxxx”)。数据文件存储(DBFS)要求挂载点为空,即“/mnt/dbfs/xxxxxx”目录为空,不能在挂载点下存在文件...

Tunnel操作

数据文件保存路径有两种选择:您可以将文件直接下载至MaxCompute客户端的 bin 目录中,此时 path 需要设置为 文件名.后缀名;也可以将文件下载至其他路径下,例如D盘的test文件夹,path 需要设置为 D:\test\文件名.后缀名。使用示例 示例...

创建OSS外部表

MaxCompute支持您在项目中创建OSS(Object Storage Service)外部表,与存储服务OSS上的目录建立映射关系,您可以通过OSS外部表访问OSS目录下的数据文件中的非结构化数据,或将MaxCompute项目中的数据写入OSS目录。本文为您介绍创建OSS外部...

服务协议

自2021年1月31日起,新版数据文件存储(DBFS)服务条款生效。请参考《阿里云数据文件存储服务协议》。

什么是文件存储 HDFS 版

文件存储 HDFS 版和对象存储OSS双向数据迁移 文件存储 HDFS 版和数据库MySQL双向数据迁移 迁移开源HDFS的数据文件存储 HDFS 版 产品定价 文件存储 HDFS 版 计量项包括标准吞吐、预置吞吐,计费方式支持按量付费方式。详细的计费规则,请...

删除文件系统

本文主要说明阿里云数据文件存储服务删除功能。进入“数据文件存储控制台”->“数据库文件系统列表”。单击“更多”按钮,单击“删除”,弹出“删除数据库文件系统”窗口。单击“我已知晓风险,确认删除”按钮后,提交删除申请。

计费常见问题

本地数据迁移至 文件存储 HDFS 版 本地数据迁移至 文件存储 HDFS 版 时,需要配置ECS作为中转节点从公网访问阿里云 文件存储 HDFS 版。弹性公网IP对入方向流量不收费,仅对出方向流量收费。即从公网上传数据文件存储 HDFS 版 不会收取...

申请与创建

本文主要说明如何创建阿里云数据文件存储服务DBFS。申请创建DBFS的步骤:进入“阿里云控制台”->“登录数据库文件系统控制台”。如果未开通服务,需要先点击“立即开通”开通数据文件存储服务后,才能进入购买页面。单击“创建数据库...

新功能发布记录

2022-02-11 华东1(杭州)、华东2(上海)、华南1(深圳)、华北2(北京)数据文件存储DBFS产品详情页 表 2.2020年06月 功能名称 功能概述 发布时间 支持地域 相关文档 数据文件存储标准版公测发布 数据文件存储(DBFS)是一款针对...

在线扩容

本文主要说明阿里云数据文件存储服务DBFS的在线扩容功能。进入“数据文件存储控制台”-》“数据库文件系统列表”。单击“扩容”按钮,弹出“在线扩容数据库文件系统”窗口。填写“扩容后容量”,单击“开始扩容”按钮后提交扩容申请。

集成概览

本文为您介绍数据文件存储DBFS支持的集成方案。OpenAPI集成 数据文件存储DBFS提供实例、快照、标签等功能的OpenAPI,您可在业务系统中进行集成。关于如何使用阿里云OpenAPI,请参见 使用OpenAPI。版本说明 版本说明 说明 2020-04-18 ...

应用场景

文件存储 HDFS 版 适用于对吞吐要求较高的大数据分析与机器...将Hadoop或其他机器学习应用部署在多个计算资源上,这样应用可以直接通过HadoopFS接口访问数据进行离线或在线计算,也可以直接将计算结果输出到 文件存储 HDFS 版 做永久保存

功能特性

文件存储 HDFS 版 SDK可在所有Apache Hadoop 2.x环境中使用,包括阿里云EMR和阿里云Flink。文件存储 HDFS 版 支持的原生文件系统语义被开发人员和用户熟知,您无需在迁移到云时学习新的存储范例。从传统HDFS迁移到 文件存储 HDFS 版,不会...

迁移开源HDFS的数据文件存储 HDFS 版

本文档介绍如何将开源HDFS的数据平滑地迁移到 文件存储 HDFS 版。背景信息 当前业界有很多公司是以Hadoop技术构建数据中心,而越来越多的公司和企业希望将业务顺畅地迁移到云上。文件存储 HDFS 版 可以帮助您实现将开源HDFS的数据迁移到云...

文件存储HDFS版

将Hadoop或其他机器学习应用部署在多个计算资源上,应用可以直接通过Hadoopfs接口访问数据进行离线或在线计算,也可以直接将计算结果输出到文件存储HDFS版做永久保存。性能 衡量文件存储HDFS版的性能指标主要是吞吐能力。吞吐最大不会超过...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
数据库文件存储 文件存储 CPFS 对象存储 云数据库 RDS 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用