云消息队列 Kafka 版 系统架构 如 云消息队列 Kafka 版的系统架构 所示,一个 云消息队列 Kafka 版 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka 版 的系统架构 Producer 通过push模式向 云消息队列 Kafka 版...
云消息队列 Kafka 版 规定了阿里云向客户提供的阿里云 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案。如需查看 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案,请参见 云消息队列 Kafka 版服务等级协议。
使用说明 云消息队列 Kafka 版 提供的规格评估功能将根据您输入的自建Kafka集群的信息,如集群流量情况、磁盘容量和类型、分区数量等,来为您评估并推荐需要的 云消息队列 Kafka 版 实例规格,帮助您提前根据推荐部署 云消息队列 Kafka 版 ...
迁移路由 云消息队列 Kafka 版 提供全托管、免运维的实例迁移服务,用于自建实例与 云消息队列 Kafka 版 实例之间或者 云消息队列 Kafka 版 实例之间的数据同步,无需借助工具即可在控制台上实现实例迁移,迁移完成后目标集群的元数据与源...
根据计费方式的特点,云消息队列 Kafka 版 资源支持的退款情况如下:包年包月的 云消息队列 Kafka 版 资源如需退款,可在控制台上退订实例。详细信息,请参见 实例生命周期管理。按量计费的 云消息队列 Kafka 版 资源在使用后才支付费用,...
Topic总数(分区总数)太多会使集群性能和稳定性能急剧下降。云消息队列 Kafka 版 的存储和协调机制是以分区为粒度的,分区数太多,会导致存储碎片化严重,集群性能和稳定性都会急剧下降。
本文说明 云消息队列 Kafka 版 涉及的专有名词和术语,帮助您更好地理解相关概念并使用该产品。Apache Kafka 一款开源的分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。更多信息,请参见 Apache Kafka。云消息队列 Kafka 版...
本文旨在以简单明了的方式引导您快速上手 云消息队列 Kafka 版。操作流程 根据网络类型不同,快速入门的操作流程有所不同,详情请参见 云消息队列 Kafka 版快速入门操作流程。图 1.云消息队列 Kafka 版 快速入门操作流程 操作步骤 具体操作...
云消息队列 Kafka 版 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 版 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。产品优势 云消息队列 ...
本文介绍 云消息队列 Kafka 版 的产品功能动态及对应的文档。2024-03-12 功能名称 功能描述 功能类型 相关文档 V3.0 Serverless系列实例在华南1(深圳)地域开服 云消息队列 Kafka 版 V3.0 Serverless系列实例支持在华南1(深圳)地域选购...
本文介绍 云消息队列 Kafka 版 的产品动态、产品简介及产品计费。云消息队列 Kafka 版 动态与公告 产品简介 产品计费 云消息队列 Confluent 版 什么是云消息队列 Confluent 版?产品计费
本文说明如何查看自建Kafka集群迁移到 云消息队列 Kafka 版 的进度。前提条件 您已开始自建Kafka集群迁移上云。迁移类型包括:通过命令行迁移 迁移Topic上云 迁移Group上云 迁移数据上云 通过元数据文件迁移上云 迁移自建Kafka集群至新实例...
详细信息 客户端首次接入云消息队列 Kafka 版时如果出现异常,您可以通过以下三个方面进行排查:网络连通问题:通常有如下几种情况可能会导致网络不通,客户端无法连接云消息队列 Kafka 版的服务端。ECS实例(客户端)与云消息队列 Kafka ...
消息发布到 云消息队列 Kafka 版 服务器的存储时间。控制台看到的 最近消费时间 是指消息发布到 云消息队列 Kafka 版 服务器的存储时间。如果消费没有堆积,那么这个时间接近发送时间。
使用云消息队列 Kafka 版时客户端的报错及解决方案 无法ping通云消息队列 Kafka 版的接入点 客户端消费问题 订阅者最佳实践 客户端首次接入云消息队列 Kafka 版时出现异常的排查方法 使用云消息队列 Kafka 版时出现消息堆积 为什么消费客户...
云消息队列 Kafka 版 的Connector组件处于公测阶段,且独立于 云消息队列 Kafka 版 实例,因此不会在 云消息队列 Kafka 版 侧产生费用。同时阿里云不承诺Connector的SLA,Connector显示依赖的其他产品的SLA和费用说明请以对应产品为准。
在控制台上可以查看和设置监控告警功能,但是在2018年11月以前部署的 云消息队列 Kafka 版 集群不支持上报监控告警数据,因此需要升级旧版本的 云消息队列 Kafka 版 实例集群,让它可以上报监控告警数据。若您要升级您的 云消息队列 Kafka ...
欠费影响 如果您购买的为包年包月实例,实例到期后,您账户下的 云消息队列 Kafka 版 服务会切换为 已过期 状态,即您将不能再继续使用 云消息队列 Kafka 版 服务。如果您购买的为按量计费实例 或弹性按量计费实例,当您的账户余额不足以...
正式商用细则 云消息队列 Kafka 版 的正式商用细则如下:为提高服务质量和用户体验,云消息队列 Kafka 版 全部以商用实例方式提供服务。实例的基本规格和定价信息请参见 计费概述。如果您有共享服务需求,可考虑阿里云 消息队列RocketMQ 或...
本文介绍 云消息队列 Kafka 版 的典型应用场景,包括网站活动跟踪、日志聚合、数据处理、数据中转枢纽。网站活动跟踪 成功的网站运营需要对站点的用户行为进行分析。通过 云消息队列 Kafka 版 的发布/订阅模型,您可以实时收集网站活动数据...
云消息队列 Kafka 版 服务端支持收发压缩消息。如需使用压缩消息,您需要在 云消息队列 Kafka 版 的客户端进行设置。在 云消息队列 Kafka 版 客户端进行消息压缩的说明如下:压缩格式:支持Snappy、LZ4、GZIP等压缩格式。其中,GZIP对CPU的...
问题描述 使用云消息队列 Kafka 版时出现“Not authorized to access group”的错误信息。问题原因 没有创建Consumer Group时会遇到此报错信息。解决方案 您可以选择如下任意一种方式创建Consumer Group。在云消息队列 Kafka 版的控制台...
网络类型为公网/VPC的 云消息队列 Kafka 版 实例支持通过公网访问。云消息队列 Kafka 版 提供VPC和公网/VPC两种网络类型的实例。如需通过公网访问,请购买公网/VPC实例。如果已购买VPC实例,请升级实例配置,变更VPC实例为公网/VPC实例。更...
开源版本为2.2.0或以上的 云消息队列 Kafka 版 实例支持Compact的日志清理策略。开源版本为2.2.0或以上的 云消息队列 Kafka 版 实例支持Compact的日志清理策略。如需升级实例的开源版本以支持Compact的日志清理策略,请参见 升级大版本。
本文介绍如何在 云消息队列 Kafka 版 控制台完成实例升配,升级的配置项包括规格类型、流量规格、磁盘容量及分区规格等。前提条件 实例处于 服务中 或 未部署 状态。实例中没有进行中的Topic引流任务。注意事项 升级实例配置会引发集群逐台...
本文介绍如何在 云消息队列 Kafka 版 控制台创建消息流出任务,将指定 云消息队列 Kafka 版 实例中的数据导出至其他的 云消息队列 Kafka 版。前提条件 您已购买并部署 云消息队列 Kafka 版 实例,且实例处于 服务中 状态。具体步骤,请参见...
本文介绍如何在 云消息队列 Kafka 版 控制台创建流入任务,将指定 云消息队列 Kafka 版 实例中的数据快速导入至另外的 云消息队列 Kafka 版 实例中。前提条件 您已购买 云消息队列 Kafka 版 实例,且实例处于 服务中 状态。具体步骤,请...
说明 云消息队列 Kafka 版 的Connector组件依赖于 事件总线,云消息队列 Kafka 版 不会额外收取费用。事件总线 的计费说明,请参见 计费说明。同时,阿里云不承诺Connector的SLA,使用Connector所依赖的其他产品的SLA和费用说明请以对应...
问题描述 无法ping通云消息队列 Kafka 版的接入点。本地客户端无法telnet Kafka或提示连接超时(Connection timed out)。问题原因 为了保证安全,云消息队列 Kafka 版集群默认禁ping。连接VPC接入点时,客户端与Kafka不在同一VPC下。解决...
概述 暂不支持通过代理访问云消息队列 Kafka 版实例,具体请查看 详细信息。详细信息 云消息队列 Kafka 版的客户端访问服务端的原理如下。通过 bootstrap.servers 随机访问服务器获取Metadata。通过Metadata里的IP地址进行后续的消息收发。...
云消息队列 Kafka 版 提供默认接入点、SSL接入点和SASL接入点以适用不同的连接及安全需求。默认接入点适用于在保密性较高的VPC环境收发消息;SASL接入点适用于无需对传输链路加密但需对消息收发鉴权;需要链路加密和消息鉴权,建议使用SSL...
本文为您介绍目标数据库实例为 专线/VPN网关/智能网关 方式接入的 阿里云消息队列Kafka版 时,部分特殊参数的配置方法和获取方式。注意事项 使用此方案将 阿里云消息队列Kafka版 接入DTS,会将数据写入到您指定的节点中。若您的源库为MySQL...
云消息队列 Kafka 版 云消息队列 Kafka 版 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 版 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。更...
云消息队列 Kafka 版 可以作为Output接入Logstash。本文说明如何在VPC环境下通过Logstash向 云消息队列 Kafka 版 发送消息。前提条件 购买并部署 云消息队列 Kafka 版 实例。具体操作,请参见 VPC接入。下载并安装Logstash。具体操作,请...
云消息队列 Kafka 版 可以作为Input接入Filebeat。本文说明如何在VPC环境下通过Filebeat从 云消息队列 Kafka 版 消费消息。背景信息 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 版 实例。具体操作,请参见 VPC...
本文汇总了 云消息队列 Kafka 版 的常见问题与以及服务等级协议。服务支持 常见问题 相关协议
云消息队列 Kafka 版 可以作为Input接入Logstash。本文说明如何在VPC环境下通过Logstash从 云消息队列 Kafka 版 消费消息。前提条件 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 版 实例。具体操作,请参见 VPC...
云消息队列 Kafka 版 可以作为Output接入Filebeat。本文说明如何在VPC环境下通过Filebeat向 云消息队列 Kafka 版 发送消息。前提条件 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 版 实例。更多信息,请参见 VPC...
您可以设置访问 云消息队列 Kafka 版 的白名单,配置在白名单中的IP地址与端口才允许访问 云消息队列 Kafka 版 实例。前提条件 您已购买 云消息队列 Kafka 版 实例,且该实例处于 服务中 的状态。注意事项 公网/VPC类型的实例默认白名单为0...
本文介绍如何在 云消息队列 Kafka 版 控制台创建流入任务,将 云消息队列 RabbitMQ 版 中的数据快速导入至 云消息队列 Kafka 版。前提条件 您已购买 云消息队列 Kafka 版 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和...