2022-08-18版本

新特性 特性 详情 文档 提供文件系统结果表能力 文件系统连接器支持以某种文件格式,将分区文件流式写入到阿里云对象存储OSS中,支持设置写入分区目录结构滚动关闭策略。文件系统结果表 性能优化 特性 详情 文档 优化MaxCompute写入性能 ...

Linux系统挂载NFS协议文件系统

创建NAS NFS协议文件系统后,您需要使用云服务器来挂载该文件系统,以实现多个云服务器共享访问文件系统的目的。本文介绍如何通过阿里云Linux ECS实例挂载NAS NFS协议文件系统。前提条件 在创建文件系统的地域,已有可用的云服务器ECS...

表实用程序命令

operationMetrics map 操作的指标(例如已修改的行数和文件数。userMetadata 字符串 用户定义的提交元数据(如果已指定)该history操作的输出包含以下列。version|timestamp|userId|userName|operation|operationParameters|job|notebook|...

NFS协议

NFS概念 NFS(Network File System),即网络文件系统协议,是一种分布式文件系统协议,通过NFS协议,您可以像访问本地文件一样访问远端系统上的文件。Linux操作系统容器建议使用NFS协议类型的文件系统。如果使用SMB协议类型的文件系统,...

文件存储 HDFS 版对象存储OSS双向数据迁移

Hadoop兼容文件系统提供单写者多读者并发语义,针对同一个文件,同一时刻可以有一个写者写入和多个读者读出。以 文件存储 HDFS 版 到对象存储OSS的数据迁移为例,数据迁移任务打开 文件存储 HDFS 版 的文件F,根据当前系统状态决定文件F的...

性能说明FAQ

解决方案:首次访问SMB文件系统时,请 ping 挂载点,查看计算节点和文件系统连通性,以及时延是否在正常范围。如果执行 ping 命令失败,请检查您的网络设置,确保网络连接正常。如果延时较长,请 ping 挂载IP。当 ping IP比 ping DNS延时小...

将数据写入OSS

带宽打满直接影响到OSS外表的数据读取和写入速度。关 于OSS带宽详情,请参见 OSS有带宽和QPS限制吗?前提条件 在向OSS写入数据前,请您确认已完成如下操作:已授予访问OSS的权限。更多授权信息,请参见 OSS的STS模式授权。(可选)已准备好...

写入文件提示无法满足最小写入副本要求

本文介绍写入文件提示无法满足最小写入副本要求问题的原因解决方案。具体报错 报错信息如下所示。其中,【X】是当前正在运行的DataNode数量,【Y】是被排除在此操作之外的DataNode数量。org.apache.hadoop.ipc.RemoteException(java.io....

配置FTP输出组件

FTP输出组件用于向FTP数据源写入数据。同步其他数据源的数据至FTP数据源的场景中,完成源数据源的信息配置后,需要配置FTP输出组件的目标数据源。本文为您介绍如何配置FTP输出组件。前提条件 已创建FTP数据源,详情请参见 创建FTP数据源。...

配置FTP输出组件

FTP输出组件用于向FTP数据源写入数据。同步其他数据源的数据至FTP数据源的场景中,完成源数据源的信息配置后,需要配置FTP输出组件的目标数据源。本文为您介绍如何配置FTP输出组件。前提条件 已创建FTP数据源,详情请参见 创建FTP数据源。...

配置NAS NFS存储卷容量

volumeAs 可选 subpath、filesystem,分别表示创建子目录类型的PV和文件系统类型PV。server 表示创建子目录类型的PV时,NAS文件系统的挂载点地址。archiveOnDelete 表示在 reclaimPolicy 为 Delete 时,是否删除后端存储。因为NAS为共享...

RDS SQL Server I/O高问题

数据页写入和日志文件写入I/O吞吐高 数据页写入和日志文件写入I/O吞吐高,可以通过自治服务观察写I/O吞吐高期间是否有频繁的DML类的写入操作(INSERT、DELETE、UPDATE、MERGE等)或DDL类的写入操作(CREATE INDEX、ALTER INDEX等),处理...

FTP数据源

FTP数据源为您提供读取和写入FTP双向通道的功能,本文为您介绍DataWorks的FTP数据同步的能力支持情况。使用限制 FTP Reader实现了从远程FTP文件读取数据并转为数据同步协议的功能,远程FTP文件本身是无结构化数据存储。对于数据同步而言,...

使用PHP上传程序配置网页上的文件上传功能

在 改变文件属性 页面,选中所有读取写入和执行权限后,单击 确定(O)。文件的权限设置如下图所示:选择本地主机上保存的 php-upload.htm 和 php-upload.php 文件,通过FileZilla上传到刚才创建的 test 目录中。在浏览器中访问 http://您...

如何选用NAS、OSSEBS?

提供高吞吐高IOPS的同时,支持文件的随机读写和在线修改 支持公网访问,一个低成本的海量共享存储空间,适合存储写入后较少修改的数据 块级存储,可随机读写,类似物理硬盘,支持分区格式化并建立文件系统 应用场景 主要应用于科学计算、...

创建OSS外部表

MaxCompute支持您在项目中创建OSS(Object Storage Service)外部表,与存储服务OSS上的目录建立映射关系,您可以通过OSS外部表访问OSS目录下的数据文件中的非结构化数据,或将MaxCompute项目中的数据写入OSS目录。本文为您介绍创建OSS外部...

查看消息引擎监控信息

实例监控 展示消息引擎维度的相关监控,例如实时写入流量、实时读取流量实时消息写入数等。Topic监控 展示Topic维度的监控,可以指定Topic查看。例如查看指定Topic的实时写入流量、实时读取流量实时消息写入数等。Group监控 展示消费者...

性能测试

读取和写入的值可以以read、write格式单独指定,其中任何一个都可以为空以将该值保留为其默认值。size 表示测试文件大小。FIO会将指定的文件大小全部读/写完成,然后才停止测试,除非受到其他选项(例如运行时)的限制。如果未指定该参数,...

整库离线同步至OSS

您需要在数据集成同步任务配置前,配置好您需要同步的源端和目标端数据库,以便在同步任务配置过程中,可通过选择数据源名称来控制同步任务的读取和写入数据库。同步解决方案支持的数据源及其配置详情请参见 支持的数据源与读写能力。说明 ...

常见问题(FAQ)

我们建议进行表流读取和写入。使用Delta Lake时,是否可以轻松地将代码移植到其他Spark平台?是。使用Delta Lake时,您将使用开放的Apache Spark API,因此可以轻松地将代码移植到其他Spark平台。要移植代码,请将deltaformat替换为parquet...

RDS MySQL I/O高问题

附:InnoDB I/O系统介绍 InnoDB通过一套独立的I/O系统来处理数据页的读取和写入,如果SQL请求的数据页不在Buffer Pool中,会产生物理I/O,需要读写底层存储的数据:读数据页操作 通过同步I/O实现,同步I/O调用底层的读接口。写数据页操作 ...

Parquet(推荐)

我们建议将数据写到Parquet以方便长期存储,因为从Parquet文件读取始终比从JSON或者CSV文件效率更高。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群,具体请参见 创建集群。已使用OSS管理控制台创建 非系统目录存储空间,...

DescribeProjectSteps-查询项目步骤的详情

dstIops long 目标端读取/写入流量,单位为字节数/秒。srcRpsRef long 源端读取 RPS 的基准值。dstRpsRef long 目标端读取/写入 RPS 的基准值。dstRtRef long 目标端读取/写入 RT 基准值。示例 正常返回示例 JSON 格式 {"Success":true,...

使用Flume写入JindoFS

Apache Flume是一个分布式、可靠高可用的系统,用于从大量不同的数据源有效地收集、聚合移动大量日志数据,进行集中式的数据存储。Flume的核心是Agent,Agent中包含Source、ChannelSink。本文为您介绍如何使用HDFS Sink写入数据至...

使用前须知

SMB nas-smb-nas_audit_dashboard 展示NAS文件系统活动信息,包括最近创建、删除、读取写入文件列表。费用说明 当Logstore的计费模式为按使用功能计费时,文件存储 NAS(通用型NAS SMB协议及通用型NAS NFS协议)将日志转储到日志服务后...

概述

本文为您介绍使用JavaScala语言开发的示例。下载示例工程 MaxCompute Spark提供了项目示例工程模板,建议您下载复制后直接在模板里进行开发。...SQL示例(Java)从MaxCompute中读取数据写入HBase 读写OSS文件 读MaxCompute写OSS

0026-00000201

问题原因 您发起了PutObject或CopyObject等涉及到文件写入操作的请求,但是您试图写入文件名已经存在同名文件,导致写入失败。问题示例 比如您发起了如下请求:PUT/object-exist.txt ...

0026-00000002

问题原因 您发起了PutObject或CopyObject等涉及到文件写入操作的请求,但是您试图写入文件名已经存在同名文件,导致写入失败。问题示例 比如您发起了如下请求:PUT/object-exist.txt ...

目录和文件访问权限

文件存储 HDFS 版 为目录和文件提供了一种访问权限,该访问权限类似于POSIX文件系统的权限模型。本文简要介绍访问权限的概念、使用方式及其相关注意事项。访问权限介绍 文件存储 HDFS 版 文件系统中的每一个文件或者目录会关联到三个权限...

表数据格式

为了支持增全量存储和处理一体化架构,Transaction Table2.0(简称TT2)设计...记录类型 目前记录只支持upsert、delete两种数据类型进行写入和存储,upsert包含insert/update两种隐含语义,如记录不存在就代表insert,如已存在就代表update。

近实时增量导入

数据流入Transactional Table 2.0主要存在近实时增量写入和批量写入两种场景,本文为您介绍高并发近实时增量写入场景的架构设计。实际业务数据处理场景中,涉及的数据源丰富多样,可能存在数据库、日志系统或者其他消息队列等系统,为了...

上传本地文件到ECS实例

默认值为 0644,该值表示:文件所有者有读取写入的权限;同组用户公共用户具有读取的权限。说明 仅Linux实例有此参数。是否覆盖 设置是否覆盖同路径下的同名文件。默认不覆盖。超时时间 设置发送文件执行的超时时间。超时后,云助手将...

配置并管理实时同步任务

您需要在数据集成同步任务配置前,配置好您需要同步的源端和目标端数据库,以便在同步任务配置过程中,可通过选择数据源名称来控制同步任务的读取和写入数据库。实时同步支持的数据源及其配置详情请参见 实时同步支持的数据源。说明 数据源...

动态列

如果您在此之前写入c3动态列,由于写入的数据类型均为VARBINARY,查询数据和写入数据时会抛出 IllegalDataException 异常,所以变更动态列表的Schema时需要注意数据类型不同的情况。如果新增列的数据类型为VARBINARY就不会出现这个异常。...

BatchWriteRow

使用SDK 您可以使用如下语言的SDK批量写入数据。Java SDK:批量写入数据 Go SDK:批量写入数据 Python SDK:批量写入数据 Node.js SDK:批量写入数据.NET SDK:批量写入数据 PHP SDK:批量写入数据 服务能力单元消耗 如果本次操作整体失败...

文件网关的缓存有什么作用

本地客户端通过文件网关向OSS上传文件时,数据会先写入文件网关的缓存。当文件完全写入缓存并关闭后,文件网关会将缓存中的文件上传至OSS。如果在上传过程中有新的文件写入缓存,上传过程将会中断,等待文件完全写入缓存并关闭后,上传才会...

重要组件

Primary即为拥有读写权限的读写库,Replica即为只读实例,仅仅拥有读取数据的权限(后台线程也不能修改数据),PrimaryReplica采用Shared Everything架构,即底层共享同一份数据文件和日志文件。StandBy节点拥有一份独立的数据日志文件...

使用mount命令挂载ext4文件系统

该方式默认启用写入缓存、读写权限控制、文件系统日志等功能,这些功能可以提高文件系统的性能稳定性,并提供数据的完整性保护。优点:对文件系统的数据安全性性能都有一定的保障。缺点:对文件系统数据安全性的影响:由于部分用户...

实时计算场景优化

调整DataNode Xceiver连接数 背景:通常实时计算框架会打开较多的HDFS文件写入流(Stream),方便不断地向HDFS写入新的数据。HDFS允许同时打开的文件数量是有限的,受限于DataNode参数 dfs.datanode.max.transfer.threads。建议:您可以在...

文件网关支持哪些字符集

本文介绍文件网关支持的字符集。OSS的文件命名只支持UTF-8字符集,非UTF-8命名的文件无法上传到OSS中。因此,文件网关目前仅支持向OSS上传UTF-8命名的文件。向文件网关写入非UTF-8命名的文件会造成上传失败并阻塞上传通道,需要进行手工...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
智能语音交互 自然语言处理 数据库文件存储 云原生数据仓库AnalyticDB MySQL版 云数据库 Redis 版 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用