集群吞吐性能测试
将500个大小为4 GB的文件按顺序写入到 文件存储 HDFS 版，读写数据的缓存大小为8 MB，并将统计数据写入/tmp/TestDFSIOwrite.log 中。hadoop jar./share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.7.6-tests.jar TestDFSIO-...
文件网关的缓存有什么作用
本地客户端通过文件网关向OSS上传文件时，数据会先写入文件网关的缓存。当文件完全写入缓存并关闭后，文件网关会将缓存中的文件上传至OSS。如果在上传过程中有新的文件写入缓存，上传过程将会中断，等待文件完全写入缓存并关闭后，上传才会...
应用场景
OSS支持流式写入和文件写入两种方式。网页或者移动应用的静态和动态资源分离 利用海量互联网带宽，OSS可以实现海量数据的互联网并发下载。OSS提供原生的 传输加速 功能，支持上传加速、下载加速，提升跨国、跨洋数据上传、下载的体验。同时...
写入文件提示无法满足最小写入副本要求
本文介绍写入文件提示无法满足最小写入副本要求问题的原因和解决方案。具体报错 报错信息如下所示。其中，【X】是当前正在运行的DataNode数量，【Y】是被排除在此操作之外的DataNode数量。org.apache.hadoop.ipc.RemoteException(java.io....
边缘文件服务接口说明
2.1文件增加 接口定义 path Content-Type POST/home/paas/file/add form-data 入参 字段 类型 是否必传 备注 filePath Text 是 文件写入路径 file File 是 文件流 expire Long 可选 文件最短保存时间，单位是秒，默认是2小时。可设置的范围...
0041-00000203
问题描述 请求触发镜像回源时，数据无法写入OSS。问题原因 Bucket处于被保护状态时，无法向该Bucket写入文件。问题示例 无 解决方案 确保回源文件写入的Bucket未处于保留策略的保护状态。相关文档 镜像回源 保留策略
管理健康报告
平均写文件耗时 文件写入总耗时除以文件总数，反映了每次文件写入操作的平均所需时间。Top导入热表分析 按表粒度对导入任务数量进行排序并选取Top 20的表，这些表的导入任务执行最为频繁且涉及的数据导入事务最多。导入热节点分析 可以通过...
自动优化
小文件自动合并 在每次写入之后，delta engine会检查文件是否可以进一步压缩，如果可以会自动执行一些OPTIMIZE 作业，对包含大量小文件的partition进行压缩。这两个特性：一个是对写入进行合并，防止小文件的产生 并 提高写数据的吞吐量，...
配置FTP输出组件
导出压缩文件 可选择 zip、gzip 压缩格式或 不压缩，直接以所选文件类型导出，选择压缩格式后以相应压缩格式将压缩文件合并写入FTP或直接以所选文件类型导出。导出列头 选择是否导出列头：选择导出，会在每一个文件中的第一行输出字段名。...
配置FTP输出组件
导出压缩文件 可选择 zip、gzip 压缩格式或 不压缩，直接以所选文件类型导出，选择压缩格式后以相应压缩格式将压缩文件合并写入FTP或直接以所选文件类型导出。导出列头 选择是否导出列头：选择导出，会在每一个文件中的第一行输出字段名。...
配置OSS输出组件
配置OSS输出组件，可以将外部数据库中读取的数据写入到OSS，或从大数据平台对接的存储系统中将数据复制推送至OSS，进行数据整合和再加工。本文为您介绍如何配置OSS输出组件。前提条件 已创建OSS数据源。具体操作，请参见 创建OSS数据源。...
配置OSS输出组件
配置OSS输出组件，可以将外部数据库中读取的数据写入到OSS，或从大数据平台对接的存储系统中将数据复制推送至OSS，进行数据整合和再加工。本文为您介绍如何配置OSS输出组件。前提条件 已创建OSS数据源。具体操作，请参见 创建OSS数据源。...
文件网关支持的OSS Bucket类型说明
客户端写入文件到网关时，网关至少记录两个动作，写入文件以及设置文件修改时间。网关会尽量合并这两个动作，但仍可能针对某个文件向存储桶发起多个操作。设置修改时间会被转换成修改存储桶里的对象的元数据，通过调用拷贝对象API来实现，...
配置Amazon S3输出组件
配置Amazon S3输出组件，可以将外部数据库中读取的数据写入到Amazon S3，或从大数据平台对接的存储系统中将数据复制推送至Amazon S3，进行数据整合和再加工。本文为您介绍如何配置Amazon S3输出组件。前提条件 已创建Amazon S3数据源。具体...
配置Amazon S3输出组件
配置Amazon S3输出组件，可以将外部数据库中读取的数据写入到Amazon S3，或从大数据平台对接的存储系统中将数据复制推送至Amazon S3，进行数据整合和再加工。本文为您介绍如何配置Amazon S3输出组件。前提条件 已创建Amazon S3数据源。具体...
文件网关支持哪些字符集
本文介绍文件网关支持的字符集。OSS的文件命名只支持UTF-8字符集，非UTF-8命名的文件无法...向文件网关写入非UTF-8命名的文件会造成上传失败并阻塞上传通道，需要进行手工清理。如发现已有非UTF-8命名文件写入文件网关，请提交工单进行处理。
OSS-HDFS数据源
离线写 OSS-HDFS Writer提供向OSS-HDFS文件系统指定路径中写入TextFile文件、ORCFile文件以及ParquetFile格式文件。OSS-HDFS支持的数据类型，如下表所示。类型分类 OSS-HDFS数据类型 整数类 TINYINT、SMALLINT、INT和BIGINT 浮点类 FLOAT和...
业务切换流程
保持业务中断状态，取消源数据库禁止写入的限制。创建反向数据迁移任务并启动，用于将目标库后续产生增量数据迁移回源数据库。此步骤创建的反向迁移任务的作用是为业务提供回退方案，业务恢复运行后，一旦出现异常可将业务切换至原有的数据...
Parquet（推荐）
read/write Key 取值范围 默认值 说明 Write compression None,Uncompressed,bzip2,defalte,gzip,lz4,snappy None 声明Spark应该使用什么样的压缩编码器来读取或写入文件 Read Merge Schema true，false 配置值spark.sql.parquet....
业务切换流程
保持业务中断状态，取消源数据库禁止写入的限制。创建反向数据迁移任务并启动，用于将目标库后续产生增量数据迁移回源数据库。此步骤创建的反向迁移任务的作用是为业务提供回退方案，业务恢复运行后，一旦出现异常可将业务切换至原有的数据...
常见问题
Impala写入Hive表数据的时候，是否可以修改写入文件的owner？如何调整Impalad可使用的节点内存总量？如何限制单条查询语句消耗内存的大小？如何提升非JOIN语句的查询效率？Ranger开启Impala后，新扩容的Impala节点无法正常工作，该怎么办？...
读写访问文件类问题
当您访问文件系统中的文件时，文件系统中的文件会受到某些限制影响，导致文件操作错误、挂载点无响应或访问无响应等。您可以在本文中查找一些常见文件操作错误、文件属主、数据不同步或访问无响应的解决方案。交叉挂载兼容性问题 Linux挂载...
稳定性说明与使用限制
在流式写入数据到MaxCompute期间，MaxCompute流式数据通道服务会禁止写入的表有更新、删除、插入等数据修改操作。更多信息，请参见 流式数据通道概述。由于禁止修改数据的限制，MaxCompute投递（新版）和MaxCompute投递（旧版）不能同时向...
MaxCompute投递（新版）
在流式写入数据到MaxCompute期间，MaxCompute流式数据通道服务会禁止写入的表有更新、删除、插入等数据修改操作。更多信息，请参见 流式数据通道概述。由于禁止修改数据的限制，MaxCompute投递（新版）和MaxCompute投递（旧版）不能同时向...
SDK示例
本文列出了使用Java代码通过Hadoop FileSystem API对 文件存储 HDFS 版 文件系统进行常用操作的示例，您可以参考这些示例代码开发您的应用。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
JindoFS FUSE使用说明
hello world 如果您想使用Python方式写入和读取文件，请参见如下示例：使用Python写 write.py 文件，包含如下内容。usr/bin/env python36 with open("/mnt/jfs/test/test.txt",'w',encoding='utf-8')as f:f.write("my first file")f.write...
写入文件提示DataXceiver Premature EOF from ...
本文介绍写入文件提示DataXceiver Premature EOF from inputStream异常的解决方案。具体报错 DataXceiver error processing WRITE_BLOCK operation src:/10.*.*.*:35692 dst:/10.*.*.*:50010 java.io.IOException:Premature EOF from ...
HDFS数据源
HDFS是一个分布式文件系统，为您提供读取和写入HDFS双向通道的功能，本文为您介绍DataWorks的HDFS数据同步的能力支持情况。支持的版本 目前不支持阿里云文件存储HDFS版。使用限制 离线读 使用HDFS Reader时，请注意以下事项：由于连通默认...
计费常见问题
当您在 文件存储 HDFS 版 中写入文件数据产生实际存储容量，则开始计费。文件存储 HDFS 版 服务如何停止计费？如果您确实不再使用 文件存储 HDFS 版 服务，可以删除数据，并删除挂载点，再删除文件系统，即可在下一个账期不产生扣费。删除...
使用mount命令挂载ext4文件系统
在Linux系统中创建ext4文件系统后，您可以根据需求使用不同的 mount 命令挂载文件系统，以满足您对文件系统的数据安全性和性能要求。对数据安全性和性能都有一定要求 如果您对文件系统的数据安全性和性能都有一定要求，建议使用该命令（不...
导出全量数据到OSS
当文件大小超过指定的切分文件大小时，系统会生成新文件继续写入数据，直到完成所有数据写入。写为一个文件 当设置 文本类型 为 text 或 csv 时才能配置该参数。写入数据到OSS时，是否写单个文件。默认写多个文件，当读不到任何数据时，...
对象存储OSS
sink.parallelism 将文件写入外部文件系统的parallelism。Integer 否 无 默认情况下，该sink parallelism与上游chained operator的parallelism一样。当配置了跟上游的chained operator不一样的parallelism时，写文件的算子会使用指定的sink...
- 产品推荐
- 这些文档可能帮助您