说明 MyBase MySQL主从版实例已停止售卖,若您已购买MyBase MySQL主从版实例,仍可继续正常使用。主从版采用一主多从传统数据库架构,最少支持0个只读节点,实现高性价比的单节点架构,也支持按需逐步扩展只读节点,最多支持5个只读节点。...
MyBase MySQL实例主从(备)切换的原因有如下几种:风险隐患 阿里云检测到实例存在潜在风险,可能影响实例的正常使用,系统会在从(备)实例修复风险项,并且在可维护时间段发起主从(备)切换。紧急风险修复类事件通常会在第一时间修复并...
MyBase Redis支持主从切换,当主实例不可用时,从实例会切换为新的主实例,保障实例的高可用性。此外您还可以手动切换主从实例,本文介绍如何手动切换主从实例。背景信息 自动切换:MyBase Redis实例默认开启自动切换,当主实例出现故障...
MyBase MySQL 实例支持主从(备)切换,当主实例不可用时,备(从)实例会切换为新的主实例,保障实例的高可用性。此外,您还可以手动切换主从(备)实例。背景信息 自动切换:高可用版实例默认开启自动切换,当主实例出现故障无法访问时,...
除了自动故障转移,云原生内存数据库Tair 支持手动执行主备切换(即切换节点角色),方便您进行实时容灾演练,验证客户端程序的差错处理能力。如果实例部署在多可用区,您还可以根据业务的部署情况执行主备切换,满足应用就近连接的需求。...
本文介绍全球数据库网络...说明 从集群中的主节点主要用于异步复制主集群数据而不处理任何读写请求,因此表中的主节点指主集群中的主节点,只读节点指从集群中的只读节点。相关文档 概述 应用场景 创建与删除全球数据库网络 管理从集群
如无需使用 PolarDB-X 的读写分离功能,您可以将指定的只读实例从主实例资源池移除。Q:是否必须要开启强一致性读能力?A:如果业务没有强一致性读的需求,建议关闭强一致性读,此时性能更优。否则是有必要开启强一致性读功能的,开启后主...
现有湖仓一体架构是以MaxCompute为中心读写Hadoop集群数据,有些线下IDC场景,客户不愿意对公网暴露集群内部信息,需要从Hadoop集群发起访问云上的数据。本文以开源大数据开发平台E-MapReduce(云上Hadoop)方式模拟本地Hadoop集群,为您...
新实践 现有湖仓一体架构是以MaxCompute为中心读写Hadoop集群数据,有些线下IDC场景,客户不愿意对公网暴露集群内部信息,需要从Hadoop集群发起访问云上的数据。本文以开源大数据开发平台E-MapReduce(云上Hadoop)方式模拟本地Hadoop集群...
如果您在使用RDS MySQL数据库代理过程中存在疑问或遇到问题,可以参考本文查看解决方案。目录 什么是数据库代理?通用型代理和独享型代理有什么区别?数据库代理是否占用主实例的QPS或者TPS?数据库代理地址和常规地址是否是一个地址?开通...
适用于从Hadoop迁移的MaxCompute项目,且该项目依赖的产品组件支持2.0数据类型版本。说明 阿里云其他产品或组件对数据类型的支持情况,请参见 组件与数据类型的兼容。选择数据类型版本 项目选择的数据类型版本影响范围如下:表的数据类型。...
YARN服务管理权限 默认高安全配置为 yarn.admin.acl=hadoop,其中 hadoop 前有单个空格,表示授权给hadoop组(EMR的服务启动Linux用户通常都是使用hadoop组)作为服务管理员。Hadoop中用户默认的组映射来自节点操作系统的组信息。说明 yarn...
usr/local/hadoop-2.7.2/share/hadoop/hdfs:/usr/local/hadoop-2.7.2/share/hadoop/hdfs/lib/*:/usr/local/hadoop-2.7.2/share/hadoop/hdfs/*:/usr/local/hadoop-2.7.2/share/hadoop/yarn/lib/*:/usr/local/hadoop-2.7.2/share/hadoop/...
因为JindoSDK暂时不支持Windows系统和Mac M1系列,所以该类系统如果想在本地测试,可以使用 hadoop-aliyun,具体操作如下。在 pom.xml 中添加 hadoop-aliyun 相关的依赖。oss-><dependency><groupId>org.apache.hadoop</groupId>...
MyBase MySQL主从版支持一主多从的数据库架构,最多5个只读实例。下面介绍三种常见架构以及如何创建对应实例。前提条件 您已创建数据库为MyBase MySQL云盘版引擎的主机。具体操作,请参见 添加MySQL主机。架构介绍 架构 说明 优劣势 示例...
本文介绍如何配置Hadoop MapReduce类型的作业。前提条件 已创建好项目,详情请参见 项目管理。操作步骤 进入数据开发的项目列表页面。通过阿里云账号登录 阿里云E-MapReduce控制台。在顶部菜单栏处,根据实际情况选择地域 和资源组。单击...
本文介绍JindoFS的数据迁移工具Jindo DistCp的使用方法。前提条件 本地安装了Java JDK 8。已创建集群,详情请参见 创建集群。使用Jindo Distcp 通过SSH方式连接集群。详情请参见 登录集群。执行以下命令,获取帮助信息。jindo distcp-help ...
本文介绍JindoFS的数据迁移工具Jindo DistCp的使用方法。前提条件 本地安装了Java JDK 8。已创建集群,详情请参见 创建集群。使用Jindo Distcp 通过SSH方式连接集群。详情请参见 登录集群。执行以下命令,获取帮助信息。jindo distcp-help ...
本文介绍JindoFS的数据迁移工具Jindo DistCp的使用方法。前提条件 本地安装了Java JDK 8。已创建集群,详情请参见 创建集群。使用Jindo Distcp 通过SSH方式连接集群。详情请参见 登录集群。执行以下命令,获取帮助信息。jindo distcp-help ...
hadoop}"} 参数说明如下:Key Value uri 栅格数据源URI time_tag 数据集元数据中的时间标签名称 type 操作类型 说明 这里只有两种类型的读取器可用:通过Hadoop API从S3或从Hadoop支持的文件系统中读取。数据写入objects {"name":...
迁移数据 Hadoop FsShell 对于文件较少或者数据量较小的场景,可以直接使用Hadoop的FsShell进行同步:hadoop dfs-cp hdfs:/emr-cluster/README.md jfs:/emr-jfs/hadoop dfs-cp oss:/oss_bucket/README.md jfs:/emr-jfs/DistCp 对于文件较多...
使用方法 Hadoop DistCp最常见的调用是集群间拷贝,例如将nn1集群的/foo/bar 目录下的数据拷贝至nn2集群的/bar/foo 目录下:hadoop distcp hdfs:/nn1:8020/foo/bar hdfs:/nn2:8020/bar/foo 更多使用说明,请参见 Hadoop社区的DistCp使用...
从之前Hadoop体系过渡到数据湖方案。DLA提供与Hadoop体系兼容的过渡方案。为什么同时支持Serverless Presto与Serverless Spark?DLA Serverless Presto是在开源Apache Presto基础上研发,完全由内存完成计算工作,具备高性能、交互式的分析...
当主实例写入时,系统会自动将主实例的数据同步给从实例,因此从实例的在不使用的情况下,CPU和内存也有一定的开销(约为主实例的 1/8),同时也建议主从实例的规格配置差异不要太过明显。更多技术原理请参见 高可用技术揭秘。使用说明 ...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
本文介绍使用JindoFS SDK时,E-MapReduce(简称EMR)集群外如何以免密方式访问E-MapReduce JindoFS的文件系统。前提条件 适用环境:ECS(EMR环境外)+Hadoop+JavaSDK。背景信息 使用JindoFS SDK时,需要把环境中相关Jindo的包从环境中移除...
基本介绍 Hadoop YARN是基于Master与Slave主从架构的分布式集群资源管理系统,其中RM(ResourceManager)是Master组件,负责整个集群的资源管理与任务调度,NM(NodeManager)是Slave组件,负责单个节点的任务管理与监控。YARN高可用特性主要...
背景介绍 在某些场景下面,我们需要从自建的Hadoop中存储的数据迁移到Lindorm的文件引擎当中。适用范围 阿里云ECS自建Hadoop集群中的数据迁移到文件引擎。准备工作 开通文件引擎,详情请参见 开通指南。修改Hadoop 配置信息,详情请参见 ...
本文以阿里云EMR集群为例,说明如何使用阿里云Jindo DistCp将数据从HDFS迁移到OSS。背景信息 在传统大数据领域,HDFS经常作为大规模数据的底层存储。在进行数据迁移、数据拷贝的场景中,最常用的是Hadoop自带的DistCp工具。但是该工具不能...
您可以使用Credential Provider配置加密后的AccessKey信息至文件中,避免泄露AccessKey信息。背景信息 EMR-3.30.0版本支持JindoOSS Credential Provider功能。您可以通过使用Hadoop Credential Provider将加密后的AccessKey信息存入文件,...
EMR基于开源的Apache Hadoop和Apache Spark,让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云其他的云数据存储系统和数据库系统(例如,阿里云OSS和RDS等)进行数据传输。阿里云EMR提供了on ...
创建了包含Trino服务的集群后,如果您需要进行复杂的数据查询、分析和处理操作,或者需要将查询结果集成到Java应用程序中,则可以使用Trino提供的JDBC Driver连接数据库。在Maven中引入JDBC Driver 您需要根据您的E-MapReduce集群版本,在...