账单查询

您可以通过阿里云管理控制台查看 文件存储 HDFS 的费用账单。查看文件系统费用账单 登录 用户中心。在左侧导航栏,单击 账单管理>账单详情。在 明细账单 页签中,设置查询 账期,并在列表中筛选产品为 文件存储 HDFS 。您还可以通过 ...

什么是文件存储 HDFS

产品概述 文件存储 HDFS 允许您就像在Hadoop分布式文件系统(Hadoop Distributed File System)中一样管理和访问数据。您无需对现有大数据分析应用做任何修改,即可使用具备无限容量及性能扩展、单一命名空间、多共享、高可靠和高可用等...

使用Fuse-DFS挂载文件存储 HDFS

执行以下命令在已映射 文件存储 HDFS 文件系统的本地目录中创建文件,创建成功后,您可以在 文件存储 HDFS 文件系统查看到该文件。cd/mnt/dfs_mount mkdir fuse_test echo"hello dfs">fuse_test/fuse.txt 可选:卸载挂载目录。...

配置E-MapReduce服务使用文件存储 HDFS

本文介绍如何配置E-MapReduce上的HDFS服务、HIVE服务、SPARK服务、HBase服务来使用 文件存储 HDFS 。前提条件 已完成数据迁移。具体操作,请参见 E-MapReduce数据迁移。配置HDFS服务 登录 阿里云E-MapReduce控制台。在 集群管理 页面,...

文件存储HDFS版

您可以像在Hadoop分布式文件系统(Hadoop Distributed File System)中管理和访问数据那样使用文件存储HDFS版。您无需对现有大数据分析应用做任何修改,即可使用具备无限容量及性能扩展、单一命名空间、多共享、高可靠和高可用等特性的分布...

SDK示例

本文列出了使用Java代码通过Hadoop FileSystem API对 文件存储 HDFS 文件系统进行常用操作的示例,您可以参考这些示例代码开发您的应用。前提条件 已开通 文件存储 HDFS 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储...

文件存储 HDFS 上使用Apache Spark

前提条件 已开通 文件存储 HDFS 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK版本不低于1.8。已 下载Apache Hadoop压缩包。建议您选用的Hadoop版本不低于2.7.2,...

文件存储 HDFS 上使用TensorFlow

本文介绍如何在 文件存储 HDFS 上使用TensorFlow。前提条件 已开通 文件存储 HDFS 服务并。具体操作,请参见 开通文件存储HDFS版服务。已完成创建文件系统、添加挂载点和挂载文件系统。具体操作,请参见 快速入门。已为Hadoop集群...

常见问题排查

本文介绍使用 文件存储 HDFS 文件系统SDK时遇到的常见问题及排查方法。提示 java.lang.ClassNotFoundException 信息 执行 hadoop 命令或者任务失败,提示 java.lang.ClassNotFoundException:Class ...

功能特性

无缝集成 文件存储 HDFS 允许您就像在Hadoop分布式文件系统(HDFS)中一样管理和访问数据。文件存储 HDFS SDK可在所有Apache Hadoop 2.x环境中使用,包括阿里云EMR和阿里云Flink。文件存储 HDFS 支持的原生文件系统语义被开发人员...

安装文件系统SDK

本文档主要介绍 文件存储 HDFS 文件系统SDK的安装及使用方式。前提条件 已创建 文件存储 HDFS 文件系统并添加挂载点。具体操作,请参见 创建文件系统 和 添加挂载点。已为ECS实例安装JDK,且JDK版本不低于1.8。背景信息 本文以hadoop...

CDH6数据迁移

本文介绍如何将CDH中本地HDFS的数据迁移到 文件存储 HDFS ,实现存储计算分离。前提条件 已开通 文件存储 HDFS 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已在阿里云上创建ECS实例并安装CDH6集群。...

概览

本文介绍阿里云 文件存储 HDFS 提供的文件系统SDK和管控系统SDK。目前,公测期间只提供文件系统SDK,管控操作则通过控制台进行。文件系统SDK 文件系统SDK实现了 Hadoop FileSystem 接口,提供一种Hadoop兼容的文件系统,对外输出为一个...

集群吞吐性能测试

测试集群吞吐性能所使用的TestDFSIO是一个分布式任务,存在任务调度及结果汇总阶段,计算集群吞吐均值时会略低于 文件存储 HDFS 吞吐限速。在进行顺序读与随机读的测试之前需要确保 文件存储 HDFS 之上已有指定的待测数据,如果没有...

API概览

ListUserGroupsMappings 查看用户和组的映射关系 查看文件存储 HDFS 版文件系统实例的用户和组的映射关系。VSC挂载点 API 标题 API概述 AttachVscMountPoint 绑定VSC挂载点 为挂载点添加计算实例。BindVscMountPointAlias 绑定VSC挂载点...

使用限制

本文主要介绍 文件存储 HDFS 的产品规格限制、协议功能限制、Hadoop fs命令限制及API限制。文件系统限制 限制项 限制说明 每个账号在单个地域内可创建的文件系统数量 3个 单个文件系统可创建的挂载点数量 2个 单个文件系统同一时刻可...

基本概念

本文介绍了 文件存储 HDFS 使用的一些基本概念。术语 描述 文件系统实例 一个拥有全局命名空间,可用来存储数据的文件系统。您可以通过挂载点访问文件系统实例中的数据。挂载点 挂载点是文件系统实例在专有网络或经典网络内的一个访问...

ListUserGroupsMappings-查看用户和组的映射关系

查看文件存储 HDFS 版文件系统实例的用户和组的映射关系。接口说明 文件存储 HDFS 文件系统权限管理依赖文件的用户和组,用户和组映射关系需要通过 OpenAPI 进行管理。有关文件存储 HDFS 版文件系统目录和文件访问权限的信息,请参见 ...

欠费说明

本文介绍 文件存储 HDFS 欠费后服务状态及查看欠费金额。欠费停服说明 状态 资源状态 如何操作 欠费预警 系统根据服务最近7小时的账单应付金额的平均值来判断您的账户余额是否足以支付下三个账期的费用。如果不足以支付,系统将以短信或...

计费常见问题

本文列举 文件存储 HDFS 的计费常见问题。计费 开通文件存储 HDFS 服务后,就开始计费吗?文件存储 HDFS 服务如何停止计费?删除存储数据后,为什么控制台显示的存储容量不变,账单没有减少?使用文件系统上传下载数据时,是否计费...

快速入门

文件存储 HDFS 兼容了标准的HadoopFS协议接口,使您无需对现有大数据分析应用做任何修改,即可使用具备无限容量及性能扩展、单一命名空间、高可靠和高可用的分布式文件系统。相比自建HDFS存储,使用 文件存储 HDFS 服务可以大量节约...

开通文件存储 HDFS 服务

本文介绍如何开通 文件存储 HDFS 服务。前提条件 已注册阿里云账号并完成实名认证。详情请参见 注册阿里云账号 和 个人实名认证。操作步骤 登录 阿里云官网。打开 文件存储 HDFS 申请公测页面。在申请公测页面,填写必要信息后单击 ...

E-MapReduce数据迁移

本文介绍如何将E-MapReduce HDFS上的数据迁移到 文件存储 HDFS 文件系统。背景信息 阿里云E-MapReduce是构建在阿里云云服务器ECS上的开源Hadoop、Spark、Hive、Flink生态大数据PaaS产品。提供用户在云上使用开源技术建设数据仓库、离线...

文件存储 HDFS 上使用Apache Flink

前提条件 已开通 文件存储 HDFS 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK版本不低于1.8。已 下载Apache Hadoop压缩包。建议您选用的Hadoop版本不低于2.7.2,...

访问HBase HDFS

注意:HDFS端口打开后,因误操作HDFS导致的数据丢失等问题客户自身承担,客户需要对HDFS的操作比较了解。首先联系 云HBase答疑(s0s3eg3),开通HDFS(由于HDFS的开放可能造成用户的恶意攻击,引起集群不稳定甚至造成破坏。因此此功能暂时...

EMR HDFS

本文介绍如何使用Databricks 读写EMR HDFS文件系统数据。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建 EMR集群,具体参见 EMR集群创建 已创建DDI集群,具体请参见 DDI集群创建。创建集群并通过knox账号访问Notebook。接入EMR ...

元数据性能测试

配置名称 配置说明 计算VM配置 CPU核数:4核 内存:16 GB 机器数量:6台 网络带宽:1.5 Gbps 文件存储 HDFS 配置 实例大小:10 TB 吞吐限速:1000 MB/s 软件配置 Apache Hadoop:Hadoop 2.7.6 测试工具 NNbench是Hadoop系统自带的基准...

配置CDH6使用文件存储 HDFS

数据迁移完成后,您还需要配置CDH上的HDFS服务、YARN服务、Hive服务、Spark服务、HBase服务,才能使用 文件存储 HDFS 。配置Cloudera Management服务 执行以下命令,将最新的 文件存储 HDFS Java SDK复制到Cloudera Management服务的...

数据源管理

JDBC连接端口:输入JDBC的连接端口,如3060。用户名:连接RDS所需的用户名。密码:连接RDS所需的密码。VPC:RDS所在账号的VPC ID。VSwitch:RDS所在账号的交换机 VSwitch ID。Security Group:RDS所在账号的安全组ID。当 连接类型 为Kafka...

卸载并释放CDH6 HDFS服务使用的云盘

已配置CDH使用 文件存储 HDFS 文件系统。具体操作,请参见 配置CDH6使用文件存储HDFS版。背景信息 当CDH已经成功运行在阿里云 文件存储 HDFS 上时,ECS挂载的云盘只用来存储运算中的临时Shuffle文件,可以选择卸载原来用于构建CDH ...

文件存储 HDFS 上使用Apache HBase

前提条件 已开通 文件存储 HDFS 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK版本不低于1.8。已部署Apache HBase分布式集群,且版本必须与Hadoop版本兼容。具体...

WAF支持的端口范围

Web应用防火墙(Web Application Firewall,简称WAF)支持防护标准端口和非标端口。您在网站接入配置中添加网站服务器端口后,WAF将通过您设置的服务器端口为网站提供流量的接入与转发服务。本文介绍WAF支持防护的标准端口和非标端口。标准...

应用场景

文件存储 HDFS 适用于对吞吐要求较高的大数据分析与机器学习的业务需求场景。大数据分析与机器学习 在大数据分析与机器学习场景中,应用对数据访问的吞吐性能和延迟有较高要求。而 文件存储 HDFS 能够提供高吞吐量和低延迟的访问能力...

卸载并释放E-MapReduce HDFS使用的云盘

重要 从数据安全性考虑,数据迁移后建议进行数据完整性校验并让E-MapReduce系统文件存储 HDFS 上正常运行一段时间后再卸载和释放云盘。云盘释放以后原有数据将无法找回。集群中的每台机器至少需要保留一块数据盘,通常是/mnt/disk1上...

添加Spark数据源

hdfsUri:Lindorm实例的HDFS连接地址,格式为:hdfs:/nn1:8020,nn2:8020。说明 连接地址中获取 nn1 和 nn2 的方法请 提交工单 sparkEndpoint:Lindorm计算引擎的JAR专有网络地址。通过 云原生多模数据库 Lindorm 控制台的 数据库连接 获取...

Linux实例中vsftpd主被动模式下iptables的设置

主动模式下,由客户端通过PORT告知服务端自己的监听端口,然后服务端通过自己定义的主动模式下的端口(默认为20)发起到客户端宣告的端口的连接。被动模式下,服务端在接到客户端的PASV命令后,通过PORT发送端口号给客户端,客户端连接这个...

Navicat

操作步骤 新建至Hologres的连接。在Navicat客户端,单击顶部菜单栏 连接,选择 PostgreSQL。配置 PostgreSQL-新建连接 对话框的参数。参数说明如下表所示。参数 描述 示例 连接名 自定义的连接名称。无 主机 连接的Hologres公共网络地址...

API概览

DescribePortMaxConns 查询DDoS高防实例的端口连接峰值信息 查询DDoS高防实例的端口连接峰值信息。DescribePortAttackMaxFlow 查询DDoS高防受到的攻击带宽和包速峰值 查询指定时间段内DDoS高防受到的攻击带宽和包速峰值。...

网关规则(Gateway)CRD说明

网关规则定义一组逻辑网关,包括公开的端口、使用的协议类型、负载均衡器的SNI配置等,需要应用在ASM网关上才能实现真正的服务监听。网关规则只用于配置监听,您还需配置一个虚拟服务来指明流量转发规则。本文介绍网关规则CRD的配置示例和...

删除文件系统

您可以在 文件存储HDFS版 控制台删除某个已创建的文件系统。前提条件 已删除该文件系统下添加的挂载点。具体操作,请参见 删除挂载点。操作步骤 登录 文件存储HDFS版控制台。在顶部菜单栏,选择地域。在左侧导航栏,选择 文件系统。在 文件...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
物联网无线连接服务 文件存储HDFS版 VPN网关 威胁情报服务 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用