设置全局YARN资源队列

数据质量:可在EMR表的分区规则中,通过 运行队列 配置单个分区规则的 YARN资源队列。详情请参见 配置规则:按表(单表)。其他产品模块:暂不支持在模块内单独设置 YARN资源队列。使用限制 仅以下角色可配置YARN资源队列:阿里云主账号。...

设置基线优先级与YARN队列优先级的映射关系

方式二(单个节点YARN队列配置):通过EMR节点编辑页面,设置单个EMR节点调度运行任务使用的YARN队列及队列优先级。详情请参见 创建EMR Hive节点、创建EMR Spark节点、创建EMR Spark SQL节点。若节点所在工作空间开启了全局配置优先,则...

队列控制台操作帮助

在 队列详情 页面的 基础信息 区域可查看修改后的队列配置。获取队列列表 在 队列列表 页面搜索文本框中输入队列名称的前缀,如test,然后单击搜索图标。查询列表中会列出所有名称前缀为test的队列。获取队列详情 在 队列列表 页面,找到...

Node Labels特性使用

默认为DEFAULT分区""-><name>yarn.scheduler.capacity.root.default.default-node-label-expression</name><value>DEMO</value></property>完成编辑保存后,在YARN状态页面使用ResourceManager组件refreshQueues操作热更新调度器队列配置,...

部署异步推理服务

} } 配置队列最大长度或最大数据体积 队列子服务的最大长度和最大数据体积是此消彼长的关系,计算关系如下所示:队列子服务实例内存是固定的,因此如果调整单条数据最大体积,则会导致该队列最大长度减小。说明 在4 GB内存的默认配置下,...

配置自动伸缩

说明 如果队列中配置了多个实例规格,自动伸缩将按照实例规格的配置顺序,并基于实例的库存以及作业的任务数和GPU数,自动请求资源进行扩容。例如,当前排队作业需要单节点具备16核,队列分别配置8、16和32核时,自动伸缩将会自动选择16核...

CreateConsumerGroup-创建消费者分组

创建云消息队列 RocketMQ 版的消费者分组(ConsumerGroup)。消费者分组是云消息队列 RocketMQ 版...变更历史 变更时间 变更内容概要 操作 2022-11-17 API 内部配置变更,不影响调用 变更集 变更项 变更内容 API 内部配置变更,不影响调用。

YARN调度器

除了资源维度的配额,还可以为队列配置运行应用数上限、AM资源使用最大比例、用户资源使用比例等,从应用、任务类型、用户等多个维度进行控制。弹性资源共享:队列的弹性资源量=(MaxCapacity-Capacity),集群与父队列有空闲资源时,子...

队列模型快速入门

本文为您介绍如何在 消息服务MNS控制台 上快速上手使用队列模型。前提条件 开通消息服务MNS并授权 创建队列 登录 消息服务MNS控制台。在左侧导航栏,单击 队列列表。在顶部菜单栏,选择地域。在 队列列表 页面,单击 创建队列。在 创建队列...

队列(MessageQueue)

队列的主要作用如下:存储顺序队列天然具备顺序性,即消息按照进入队列顺序写入存储,同一队列间的消息天然存在顺序关系,队列头部为最早写入的消息,队列尾部为最新写入的消息。消息在队列中的位置和消息之间的顺序通过位点(Offset...

收发顺序消息

请务必设置该配置项,顺序消息才能均匀分布到各队列中。msg.putUserProperty(MessageConst.PROPERTY_SHARDING_KEY,orderId+"");SendResult sendResult=producer.send(msg,new MessageQueueSelector(){@Override public MessageQueue select...

迁移上云操作

重要 开源Apache RocketMQ 4.x系列SDK的消息消费顺序在客户端中配置,阿里云 云消息队列 RocketMQ 版 5.x版本实例在服务端中控制Group的消费顺序,因此在元数据迁移时,您需要根据实际业务场景手动录入Group的消费顺序类型。如果消费顺序的...

示例代码

云消息队列 RocketMQ 版 5.x版本实例可兼容4.x/3.x SDK客户端接入,您可以使用4.x/3.x版本的SDK接入5.x实例进行消息收发。本文为您介绍4.x/3.x版本下的Java SDK消息收发示例代码。重要 推荐您使用最新的RocketMQ 5.x系列SDK,5.x系列SDK...

顺序消息

顺序消息可以保证消息的消费顺序和发送的顺序一致,即先发送的先消费,后发送的后消费,常用于金融证券、电商业务等对消息指令顺序有严格要求的场景。本文介绍 云消息队列 RocketMQ 版 顺序消息的概念、适用场景、实现原理以及使用过程中的...

GetInstanceList-查询指定地域的实例信息

如果实例是通过云消息队列 Kafka 版控制台或调用 StartInstance(调用时没有配置安全组)部署的,则返回值为空。如果实例是通过调用 StartInstance(调用时配置了安全组)部署的,则返回值为配置的安全组。sg-bp13wfx7kz9pkow*SslEndPoint ...

使用Canal和RocketMQ实现数据库变更订阅处理

不涉及 高阶参数配置 数据同步Topic和顺序性设置 Canal传输数据库变更事件到 云消息队列 RocketMQ 版 默认遵循一定的顺序性原则,在早期版本中每个任务默认是发送到 云消息队列 RocketMQ 版 单个Topic的单个分区。Topic设置方法可以使用 ...

使用Canal和RocketMQ实现数据库变更订阅处理

MQ_INST_1266540465*_BYSLmTAL 高阶参数配置 数据同步Topic和顺序性设置 Canal传输数据库变更事件到 云消息队列 RocketMQ 版 默认遵循一定的顺序性原则,在早期版本中每个任务默认是发送到 云消息队列 RocketMQ 版 单个Topic的单个分区。...

消费者分组(ConsumerGroup)

投递顺序性:云消息队列 RocketMQ 版 的服务端将消息投递给消费者消费时,支持顺序投递和并发投递,投递方式在消费者分组中统一配置。具体信息,请参见 顺序消息。消费重试策略:消费者消费消息失败时的重试策略,包括重试次数、死信队列...

顺序消息

顺序消息为 云消息队列 RocketMQ 版 中的高级特性消息,本文为您介绍顺序消息的应用场景、功能原理、使用限制、使用方法和使用建议。应用场景 在有序事件处理、撮合交易、数据实时增量同步等场景下,异构系统间需要维持强一致的状态同步,...

消息检索

当 云消息队列 Kafka 版 控制台提供的按位点查询和按时间查询消息的功能无法满足您搜索消息的需求时,您可以使用 云消息队列 Kafka 版 消息检索功能。消息检索支持按Topic分区、位点范围、时间范围以及消息Key和Value关键字检索。本文介绍...

配置相关

与消息队列配置相关的常见问题如下:消息队列消息在服务器保存多长时间?消息队列消息 Body 的长度限制是多少?消息队列客户端如何设置消费线程数?消息队列消息在服务器保存多长时间?存储的消息最多保存 3 天,超过 3 天未消费的消息会被...

开源对比

云消息队列 RabbitMQ 版 是一款基于高可用分布式存储架构实现的AMQP 0-9-1协议的消息产品,能够兼容开源RabbitMQ客户端,与开源RabbitMQ相比,能够解决各种稳定性痛点(例如消息堆积、脑裂等问题),同时具备高并发、分布式、灵活扩缩容等...

云消息队列 RocketMQ 版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建消息流入任务,实现将其他数据源中的数据快速导入 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。创建...

消息队列RocketMQ版

本文介绍如何在 云消息队列 RocketMQ 版 控制台创建消息流入任务,实现将其他数据源中的数据快速导入 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。创建...

云消息队列 RocketMQ 版

本文介绍如何在 云消息队列 RabbitMQ 版 控制台创建消息流入任务,将 云消息队列 RocketMQ 版 中的数据快速导入至 云消息队列 RabbitMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 ...

跨云产品数据流入

您可通过配置 云消息队列 MQTT 版 的数据流入规则来自定义数据从其他阿里云产品流入到 云消息队列 MQTT 版。本文介绍跨产品数据流入的原理、应用场景、使用限制以及 云消息队列 MQTT 版 与其他阿里云产品的资源映射关系。基本原理 如需将...

Demo工程

Demo工程包含普通消息、顺序消息、事务消息、定时和延时消息的测试代码,以及相关Spring的配置。前提条件 安装IDE。您可以使用IntelliJ IDEA或者Eclipse,本文以IntelliJ IDEA为例。请下载IntelliJ IDEA Ultimate版本,并参见IntelliJ IDEA...

收发顺序消息

顺序消息(FIFO 消息)是 云消息队列 RocketMQ 版 提供的一种严格按照顺序来发布和消费的消息类型。本文提供使用TCP协议下的.NET SDK收发顺序消息的示例代码。顺序消息分类 顺序消息分为两类:全局顺序:对于指定的一个Topic,所有消息按照...

迁移数据上云

本文介绍如何使用MirrorMaker将自建Kafka集群的数据迁移到 云消息队列 Kafka 版 集群。前提条件 您已完成以下操作:下载迁移工具MirrorMaker 迁移Topic上云 背景信息 Kafka的镜像特性可实现Kafka集群的数据备份。实现这一特性的工具就是...

跨云产品的数据流出

您可通过配置 云消息队列 MQTT 版 的数据流出规则来自定义数据从 云消息队列 MQTT 版 流出至其他阿里云产品。本文介绍数据流出的原理、应用场景、使用限制以及 云消息队列 MQTT 版 与其他阿里云产品的资源映射关系。基本原理 如需将 云消息...

基本概念

顺序消息 云消息队列 RocketMQ 版 提供的一种按照顺序进行发布和消费的消息类型,分为全局顺序消息和分区顺序消息。更多信息,请参见 顺序消息。全局顺序消息 对于指定的一个Topic,所有消息按照严格的先入先出(FIFO)的顺序进行发布和...

消费者(Consumer)

消息按照到达 云消息队列 RocketMQ 版 服务端的顺序存储到主题的指定队列中。消费者按照指定的订阅关系从 云消息队列 RocketMQ 版 服务端中获取消息并消费。内部属性 消费者分组名称 定义:当前消费者关联的消费者分组名称,消费者必须关联...

死信消息

配置死信消息保存规则 您可以在 云消息队列 RocketMQ 版 控制台 配置是否保存死信消息。操作入口如下:实例列表>实例详情>Group管理。死信消息可观测指标 指标说明 指标类型 指标项 Metrics元数据指标 rocketmq_send_to_dlq_messages:每...

消息(Message)

FIFO:顺序消息,云消息队列 RocketMQ 版 通过消息分组MessageGroup标记一组特定消息的先后顺序,可以保证消息的投递顺序严格按照消息发送时的顺序。Delay:定时/延时消息,通过指定延时时间控制消息生产后不要立即投递,而是在延时间隔后...

收发顺序消息

顺序消息(FIFO消息)是 云消息队列 RocketMQ 版 提供的一种严格按照顺序来发布和消费的消息类型。本文提供使用TCP协议下的Java SDK收发顺序消息的示例代码。前提条件 您已完成以下操作:下载1.2.7或以上版本的Java SDK。更多信息,请参见...

使用限制

本文为您介绍 云消息队列 MQTT 版 对某些具体指标的约束和规范,您在使用 云消息队列 MQTT 版 时请不要超过相应的限制值,以免程序出现异常。具体的限制项和限制值请参见下表。如果您购买了铂金版的 云消息队列 MQTT 版 实例,则可按需定制...

配置网卡多队列的网络中断亲和性

在使用网卡多队列时,通常需要配置网络中断亲和性(IRQ Affinity),将不同的队列中断分配给特定的CPU处理,而不是由任意的CPU处理,这有助于减少CPU之间的争用并提高网络性能。本文介绍如何配置Linux系统的网卡多队列的网络中断亲和性和...

基本概念

订阅关系(Subscription)订阅关系是 云消息队列 RocketMQ 版 系统中消费者获取消息、处理消息的规则和状态配置。订阅关系由消费者分组动态注册到服务端系统,并在后续的消息传输中按照订阅关系定义的过滤规则进行消息匹配和消费进度维护。...

作为Output接入

云消息队列 Kafka 版 可以作为Output接入Filebeat。本文说明如何在VPC环境下通过Filebeat向 云消息队列 Kafka 版 发送消息。前提条件 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 版 实例。更多信息,请参见 VPC...

生产者负载均衡

生产者发送消息到 云消息队列 RocketMQ 版 服务端时,云消息队列 RocketMQ 版 将根据生产者负载均衡策略将消息均匀的存储在多个队列中,避免产生热点队列和性能瓶颈。本文介绍 云消息队列 RocketMQ 版 生产者的负载均衡策略。背景信息 了解...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云消息队列 RocketMQ 版 DDoS防护 应用配置管理 (文档停止维护) 云服务器 ECS 云消息队列 Kafka 版 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用