Hadoop使用JindoSDK访问OSS-HDFS服务

hdfs dfs-cat oss:/examplebucket.cn-hangzhou.oss-dls.aliyuncs.com/examplefile.txt 拷贝目录或文件 将目标存储空间examplebucket下根目录subdir1拷贝到目录subdir2下,且根目录subdir1所在的位置、根目录下的文件和子目录结构和内容保持...

对象命名

命名示例 根据Object存储于Bucket内的不同位置,Key的表示方法也有所区别,具体说明如下:Object所在Bucket的位置 Key的表示方法 目标存储空间examplebucket根目录下存放了名为exampleobject.txt的Object exampleobject.txt 目标存储空间...

create-symlink(创建软链接)

为目标存储空间examplebucket根目录下的exampleobject.jpg文件创建名为test.jpg的软链接文件,并将软链接文件保存至该Bucket的根目录。ossutil64 create-symlink oss:/examplebucket/test.jpg oss:/examplebucket/exampleobject.jpg 在开启...

CDH6数据迁移

snapshot 'mock_table_0','mock_table_0_snapshot' snapshot 'mock_table_1','mock_table_1_snapshot' 在文件存储HDFS版根目录中创建/hbase 目录。hadoop fs-mkdir dfs:/f-xxxxxxxxxxxxxxx.cn-xxxxxxx.dfs.aliyuncs.com:10290/hbase 其中 f...

logging(日志转存)

ossutil64 logging-method put oss:/srcbucket oss:/destbucket 将源存储空间srcbucket产生的日志文件保存至目标存储空间destbucket的根目录下的子目录destdir。ossutil64 logging-method put oss:/srcbucket oss:/destbucket/destdir 以下...

cp(拷贝文件)

拷贝文件(Object)是指在不改变文件内容的情况下,将同一地域下的源存储空间(Bucket)内的文件复制到目标Bucket,或者将文件复制到相同存储空间(Bucket)的其他目录。您可以通过ossutil的 cp 完成拷贝。注意事项 要拷贝文件,您必须具有...

OSS访问域名使用规则

以全球加速Endpoint为例,通过浏览器访问位于华东1(杭州)的存储空间examplebucket根目录下的文件 myphoto.jpg,且文件读写权限ACL为公共读或者公共读写,此时文件URL为 https://examplebucket.oss-accelerate.aliyuncs.com/myphoto.jpg ...

内置存储与用户OSS

数据库备份DBS提供数据库的备份恢复能力,备份数据保存在云存储上,云存储支持内置存储、用户OSS。对比项 DBS内置存储 用户OSS 安全性 客户无法直接访问备份集。已接入DBS安全权限体系。客户可直接访问备份集。需要自行管理备份集安全。...

文件存储NAS SMB ACL概述

NAS SMB ACL卷根目录默认值 文件存储NAS SMB ACL的卷根目录权限默认值如图所示:默认值设计的原因 SYSTEM和Administrators这两个ACL权限项是为了与Windows NTFS的权限对齐,保证管理员权限的程序能够正常运行。同时,在连通阿里云RAM账号...

【通知】DBS内置存储出账策略调整

数据库备份DBS 将于2023年08月10日起逐步将DBS内置存储账单出账策略调整为按备份计划维度出账。背景信息 为了提升用户的产品使用体验,自2023年08月10日起,数据库备份DBS 将逐步调整 内置存储 账单的出账策略。原来账单是按照用户地域维度...

计费常见问题

备份计划存储费用(可选):配置包年包月备份计划时,当备份目标存储类型选择为 DBS内置存储,系统将根据存入DBS内置存储中的实际数据量的大小与时长收取存储费用。费用详情,请参见 存储费用。备份计划备份费用(可选):若备份计划备份的...

通过Hadoop Shell命令访问

如果您希望通过命令行的方式在开通OSS-HDFS...拷贝目录或文件 例如,将examplebucket下根目录subdir1拷贝到目录subdir2下,且根目录subdir1所在的位置、根目录下的文件和子目录结构和内容保持不变,示例如下:hdfs dfs-cp oss:/examplebucket....

CreateDir-创建目录

说明 如果根目录不存在,则需要配置目录创建信息,系统将根据设置自动创建指定的根目录。如果根目录已存在,则不需要配置目录创建信息,如果进行配置,目录创建信息中的配置也会被忽略。test OwnerUserId integer 是 目录的拥有者用户 ID。...

使用存储

存储包是 数据库备份DBS 推出的一种预付费资源包,支持抵扣同一账号下备份实例的内置存储费用、CDM沙箱功能的存储费用 以及MongoDB等云数据库的备份存储费用,抵扣部分不再计费,仅超出部分将按使用量计费。本文介绍DBS存储包的计费规则...

存储费用

数据库备份DBS内置存储池和云数据库存储池默认为按量付费,如需降低存储费用,可购买存储包进行抵扣。存储费用(按量付费)当您在DBS控制台、RDS控制台、PolarDB控制台、MongoDB控制台执行某些备份操作时,产生的备份文件将存储于备份目标...

常见问题

登录ossftp成功后List文件超时导致连接断开 Bucket根目录下的文件或文件夹数量过多。登录ossftp后,FTP Server会尝试List Bucket根目录下的所有文件和文件夹。单次可以List 1000个文件和文件夹。如果根目录下文件和文件夹数量超过100万,会...

使用前须知

版本控制概述 在开启版本控制的Bucket中删除Object 版本控制相关操作 删除目录 数据丢失 为避免影响OSS-HDFS服务的正常使用或者引发数据丢失的风险,在开通了OSS-HDFS服务的Bucket中删除某个目录时,禁止删除OSS-HDFS的数据存储目录....

冷热分层存储

CLOUD_COLD_AR:冷归档存储 在没有对文件或子目录设置存储类型的情况下,文件或子目录存储策略默认继承父目录存储类型。例如 oss:/examplebucket/dir 的存储类型为 CLOUD_STD,则 oss:/examplebucket/dir/subdir 存储类型也为 CLOUD_...

Windows应用程序

Windows容器 Windows容器使用阿里云NAS SMB文件系统做持久化存储目录 阿里云ACK服务使用Windows容器挂载NAS SMB最佳实践 权限控制 阿里云SMB协议文件系统AD身份认证和ACL权限控制使用场景 使用AD域实现用户身份认证和文件级别的权限访问...

开通并授权访问OSS-HDFS服务

禁止以非OSS-HDFS提供的方式对OSS-HDFS的数据存储目录.dlsdata/及目录下的Object执行写入操作,例如重命名目录、删除目录或者删除Object等,否则会影响OSS-HDFS服务的正常使用或者引发数据丢失的风险。在删除已开通OSS-HDFS服务的Bucket...

使用NAS动态存储

在NAS文件系统中通过创建子目录并将其映射为一个动态PV提供给应用。本文介绍如何使用NAS动态存储卷。前提条件 已创建Kubernetes集群,并且在该集群中安装Flexvolume插件。具体操作,请参见 创建Kubernetes托管版集群。已部署alicloud-nas-...

使用NAS静态存储

说明 只有挂载到NAS子目录时才能设置权限,挂载到根目录时无法设置。当挂载的目录文件量较大时不建议此配置,否则会出现 chmod 长时间执行。如果挂载到NAS子目录时,您可以选择设置权限,或者不填此项。不填此项,默认权限为NAS文件原来的...

什么是OSS-HDFS服务

OSS-HDFS服务(JindoFS服务)是一个云原生数据湖存储功能。基于统一的元数据管理能力,完全兼容HDFS文件系统接口,满足大数据和AI等领域的数据湖计算场景。注意事项 警告 当您为某个Bucket开通OSS-HDFS服务后,通过该服务写入的数据将保留...

转换文件存储类型

示例代码 标准或低频访问类型转换为归档类型 以下代码用于将examplebucket根目录下名为exampleobject.txt的Object的存储类型从标准或低频访问类型转换为归档类型:OSSCopyObjectRequest*copy=[OSSCopyObjectRequest new];copy....

使用NAS静态存储

说明 只有挂载到NAS子目录时才能设置权限,挂载到根目录时不能设置。当挂载的目录文件量较大时不建议此配置,否则会出现 chmod 长时间执行。如果挂载到NAS子目录时,您可以选择设置权限,或者不填此项。不填此项,默认权限为NAS文件原来的...

使用NAS静态存储

说明 只有挂载到NAS子目录时才能设置权限,挂载到根目录时无法设置。当挂载的目录文件量较大时不建议此配置,否则会出现 chmod 长时间执行。如果挂载到NAS子目录时,您可以选择设置权限,或者不填此项。不填此项,默认权限为NAS文件原来的...

转换存储类型

OSS支持标准、低频访问、归档、冷归档、深度冷归档多种存储类型,您可以通过生命周期规则或者CopyObject的方式随时转换文件(Object)的存储类型。警告 对开通了OSS-HDFS服务的Bucket,建议不要修改OSS-HDFS的数据存储目录.dlsdata/下任意...

开启Windows权限控制

建议您不要修改根目录的权限,而是对根目录下的顶级文件夹进行设置。根目录的权限只保存在网关本地。无法保存在OSS对象中。Windows权限控制只能在新建共享时开启,您需要按照以下步骤创建一个SMB共享。登录 云存储网关控制台。选择目标文件...

使用NAS静态存储

显示高级选项 子目录:NAS路径下的子目录,以/为根目录,设定后数据卷将挂载到指定的子目录。如果NAS根目录下没有此子目录,会默认创建后再挂载。您可以不填此项,默认挂载到NAS根目录。极速NAS需要以/share 为父目录。版本:所创建存储卷...

通过NFS使用NAS静态存储

显示高级选项 子目录:NAS路径下的子目录,以/为根目录,设定后数据卷将挂载到指定的子目录。如果NAS根目录下没有此子目录,会默认创建后再挂载。您可以不填此项,默认挂载到NAS根目录。极速NAS需要以/share 为父目录。版本:所创建存储卷...

日志转存

如果不指定此项,则日志文件将保存在目标Bucket的根目录下。例如,日志前缀指定为 log/,则日志文件将被记录在 log/目录下。单击 保存。使用阿里云SDK 以下仅列举常见SDK的设置日志转存的代码示例。关于其他SDK的设置日志转存的代码示例,...

设置OSS存储

对象存储 OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云存储服务,将数据以对象(Object)的形式存储存储空间(Bucket)中。OSS 在解决应用实例数据持久化和实例间数据分发问题的基础上,进一步降低成本。本文介绍...

搜索文件

当您向存储空间(Bucket)上传了大量的文件(Object)时,OSS支持通过指定文件名前缀快速搜索并定位目标文件。使用限制 搜索规则 按文件名前缀进行搜索,搜索的字符串区分大小写,并且不能包含正斜线(/)。搜索结果 在某个Bucket根目录或...

存储空间清单

您可以使用对象存储OSS的清单功能获取存储空间(Bucket)中指定文件(Object)的数量、大小、存储类型、加密状态等信息。相对于GetBucket(ListObjects)接口,在海量Object的列举场景中,建议您优先使用清单功能。警告 为避免影响OSS-HDFS...

日志转存

如果不指定此项,则日志文件将保存在目标Bucket的根目录下。例如,日志前缀指定为 log/,则日志文件将被记录在 log/目录下。单击 保存。使用阿里云SDK 仅支持通过Java SDK设置日志转存,Java SDK要求3.15.0及以上版本。import ...

设置NAS存储

文件存储 NAS(Apsara File Storage NAS)是一种可共享访问、弹性扩展、高可靠、高性能的分布式文件系统,为阿里云ECS实例、E-HPC、容器服务等计算节点提供了文件存储服务。本文介绍如何在 SAE 控制台为应用设置NAS存储。背景信息 通常情况...

在云控制台上使用文件网关

子目录可以为OSS Bucket中已存在的目录也可以为OSS Bucket中还未创建的目录,创建共享完成后,将以该子目录为根目录,后续的文件和目录都会创建在该目录下。不支持回源类型的Bucket。云存储网关无法保证对一个文件只发起一次写操作,因此不...

管理文件网关

子目录可以为OSS Bucket中已存在的目录也可以为OSS Bucket中还未创建的目录,创建共享完成后,将以该子目录为根目录,后续的文件和目录都会创建在该目录下。不支持回源类型的Bucket。云存储网关无法保证对一个文件只发起一次写操作,因此不...

NAS存储卷FAQ

具体的文件删除操作需要您自行处理,例如:在某个节点过载根目录启动定时删除机制,或启动多个Pod并发删除某种格式的子目录。NAS存储卷挂载时间延长 问题现象 NAS存储卷挂载时间延长。问题原因 同时满足以下配置时,挂载的PV及PVC将执行 ...

快速入门(FC)

例如,在根目录下创建一个 test 文件夹和上传 test01.txt 文件至根目录。重要 NAS浏览器不支持上传空文件。新建文件夹 在 文件管理 页面,单击 新建文件夹,在 新建文件夹 对话框中,输入/test,然后单击 创建。上传文件 在 文件管理 页面...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云存储网关 对象存储 文件存储 CPFS 混合云存储 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用