产品架构

云消息队列 Kafka 系统架构 如 云消息队列 Kafka 的系统架构 所示,一个 云消息队列 Kafka 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka 的系统架构 Producer 通过push模式向 云消息队列 Kafka ...

云消息队列 Kafka 服务等级协议

云消息队列 Kafka 规定了阿里云向客户提供的阿里云 云消息队列 Kafka 的服务可用性等级指标及赔偿方案。如需查看 云消息队列 Kafka 的服务可用性等级指标及赔偿方案,请参见 云消息队列 Kafka 服务等级协议。

评估规格

使用说明 云消息队列 Kafka 提供的规格评估功能将根据您输入的自建Kafka集群的信息,如集群流量情况、磁盘容量和类型、分区数量等,来为您评估并推荐需要的 云消息队列 Kafka 实例规格,帮助您提前根据推荐部署 云消息队列 Kafka ...

迁移概述

迁移路由 云消息队列 Kafka 提供全托管、免运维的实例迁移服务,用于自建实例与 云消息队列 Kafka 实例之间或者 云消息队列 Kafka 实例之间的数据同步,无需借助工具即可在控制台上实现实例迁移,迁移完成后目标集群的元数据与源...

退款说明

根据计费方式的特点,云消息队列 Kafka 资源支持的退款情况如下:包年包月的 云消息队列 Kafka 资源如需退款,可在控制台上退订实例。详细信息,请参见 实例生命周期管理。按量计费的 云消息队列 Kafka 资源在使用后才支付费用,...

为什么限制Topic总数(分区总数)?

Topic总数(分区总数)太多会使集群性能和稳定性能急剧下降。云消息队列 Kafka 存储和协调机制是以分区为粒度的,分区数太多,会导致存储碎片化严重,集群性能和稳定性都会急剧下降。

基本概念

本文说明 云消息队列 Kafka 涉及的专有名词和术语,帮助您更好地理解相关概念并使用该产品。Apache Kafka 一款开源的分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。更多信息,请参见 Apache Kafka。云消息队列 Kafka ...

概述

本文旨在以简单明了的方式引导您快速上手 云消息队列 Kafka 。操作流程 根据网络类型不同,快速入门的操作流程有所不同,详情请参见 云消息队列 Kafka 快速入门操作流程。图 1.云消息队列 Kafka 快速入门操作流程 操作步骤 具体操作...

什么是云消息队列 Kafka

云消息队列 Kafka 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。产品优势 云消息队列 ...

新功能发布记录

本文介绍 云消息队列 Kafka 的产品功能动态及对应的文档。2024-03-12 功能名称 功能描述 功能类型 相关文档 V3.0 Serverless系列实例在华南1(深圳)地域开服 云消息队列 Kafka V3.0 Serverless系列实例支持在华南1(深圳)地域选购...

产品概述

本文介绍 云消息队列 Kafka 的产品动态、产品简介及产品计费。云消息队列 Kafka 动态与公告 产品简介 产品计费 云消息队列 Confluent 版 什么是云消息队列 Confluent 版?产品计费

查看迁移进度

本文说明如何查看自建Kafka集群迁移到 云消息队列 Kafka 的进度。前提条件 您已开始自建Kafka集群迁移上云。迁移类型包括:通过命令行迁移 迁移Topic上云 迁移Group上云 迁移数据上云 通过元数据文件迁移上云 迁移自建Kafka集群至新实例...

客户端首次接入云消息队列 Kafka 时出现异常的排查...

详细信息 客户端首次接入云消息队列 Kafka 时如果出现异常,您可以通过以下三个方面进行排查:网络连通问题:通常有如下几种情况可能会导致网络不通,客户端无法连接云消息队列 Kafka 的服务端。ECS实例(客户端)与云消息队列 Kafka ...

控制台看到的最近消费时间是什么意思?

消息发布到 云消息队列 Kafka 服务器的存储时间。控制台看到的 最近消费时间 是指消息发布到 云消息队列 Kafka 服务器的存储时间。如果消费没有堆积,那么这个时间接近发送时间。

常见问题

使用云消息队列 Kafka 时客户端的报错及解决方案 无法ping通云消息队列 Kafka 的接入点 客户端消费问题 订阅者最佳实践 客户端首次接入云消息队列 Kafka 时出现异常的排查方法 使用云消息队列 Kafka 时出现消息堆积 为什么消费客户...

我使用的Connector组件如何计费?

云消息队列 Kafka 的Connector组件处于公测阶段,且独立于 云消息队列 Kafka 实例,因此不会在 云消息队列 Kafka 侧产生费用。同时阿里云不承诺Connector的SLA,Connector显示依赖的其他产品的SLA和费用说明请以对应产品为准。

为什么需要升级实例来支持监控告警功能?

在控制台上可以查看和设置监控告警功能,但是在2018年11月以前部署的 云消息队列 Kafka 集群不支持上报监控告警数据,因此需要升级旧版本的 云消息队列 Kafka 实例集群,让它可以上报监控告警数据。若您要升级您的 云消息队列 Kafka ...

欠费说明

欠费影响 如果您购买的为包年包月实例,实例到期后,您账户下的 云消息队列 Kafka 服务会切换为 已过期 状态,即您将不能再继续使用 云消息队列 Kafka 服务。如果您购买的为按量计费实例 或弹性按量计费实例,当您的账户余额不足以...

正式商用公告

正式商用细则 云消息队列 Kafka 的正式商用细则如下:为提高服务质量和用户体验,云消息队列 Kafka 全部以商用实例方式提供服务。实例的基本规格和定价信息请参见 计费概述。如果您有共享服务需求,可考虑阿里云 消息队列RocketMQ 或...

应用场景

本文介绍 云消息队列 Kafka 的典型应用场景,包括网站活动跟踪、日志聚合、数据处理、数据中转枢纽。网站活动跟踪 成功的网站运营需要对站点的用户行为进行分析。通过 云消息队列 Kafka 的发布/订阅模型,您可以实时收集网站活动数据...

是否支持压缩消息

云消息队列 Kafka 服务端支持收发压缩消息。如需使用压缩消息,您需要在 云消息队列 Kafka 的客户端进行设置。在 云消息队列 Kafka 客户端进行消息压缩的说明如下:压缩格式:支持Snappy、LZ4、GZIP等压缩格式。其中,GZIP对CPU的...

使用云消息队列 Kafka 时出现“Not authorized to ...

问题描述 使用云消息队列 Kafka 时出现“Not authorized to access group”的错误信息。问题原因 没有创建Consumer Group时会遇到此报错信息。解决方案 您可以选择如下任意一种方式创建Consumer Group。在云消息队列 Kafka 的控制台...

能否通过公网访问云消息队列 Kafka 实例?

网络类型为公网/VPC的 云消息队列 Kafka 实例支持通过公网访问。云消息队列 Kafka 提供VPC和公网/VPC两种网络类型的实例。如需通过公网访问,请购买公网/VPC实例。如果已购买VPC实例,请升级实例配置,变更VPC实例为公网/VPC实例。更...

是否支持Compact的日志清理策略?

开源版本为2.2.0或以上的 云消息队列 Kafka 实例支持Compact的日志清理策略。开源版本为2.2.0或以上的 云消息队列 Kafka 实例支持Compact的日志清理策略。如需升级实例的开源版本以支持Compact的日志清理策略,请参见 升级大版本。

升级实例配置

本文介绍如何在 云消息队列 Kafka 控制台完成实例升配,升级的配置项包括规格类型、流量规格、磁盘容量及分区规格等。前提条件 实例处于 服务中 或 未部署 状态。实例中没有进行中的Topic引流任务。注意事项 升级实例配置会引发集群逐台...

创建Kafka Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将指定 云消息队列 Kafka 实例中的数据导出至其他的 云消息队列 Kafka 。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见...

创建Kafka Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建流入任务,将指定 云消息队列 Kafka 实例中的数据快速导入至另外的 云消息队列 Kafka 实例中。前提条件 您已购买 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请...

计费概述

说明 云消息队列 Kafka 的Connector组件依赖于 事件总线,云消息队列 Kafka 不会额外收取费用。事件总线 的计费说明,请参见 计费说明。同时,阿里云不承诺Connector的SLA,使用Connector所依赖的其他产品的SLA和费用说明请以对应...

无法ping通云消息队列 Kafka 的接入点

问题描述 无法ping通云消息队列 Kafka 的接入点。本地客户端无法telnet Kafka或提示连接超时(Connection timed out)。问题原因 为了保证安全,云消息队列 Kafka 集群默认禁ping。连接VPC接入点时,客户端与Kafka不在同一VPC下。解决...

如何通过代理访问云消息队列 Kafka 实例

概述 暂不支持通过代理访问云消息队列 Kafka 实例,具体请查看 详细信息。详细信息 云消息队列 Kafka 的客户端访问服务端的原理如下。通过 bootstrap.servers 随机访问服务器获取Metadata。通过Metadata里的IP地址进行后续的消息收发。...

接入点对比

云消息队列 Kafka 提供默认接入点、SSL接入点和SASL接入点以适用不同的连接及安全需求。默认接入点适用于在保密性较高的VPC环境收发消息;SASL接入点适用于无需对传输链路加密但需对消息收发鉴权;需要链路加密和消息鉴权,建议使用SSL...

配置消息队列Kafka版实例的参数

本文为您介绍目标数据库实例为 专线/VPN网关/智能网关 方式接入的 阿里云消息队列Kafka版 时,部分特殊参数的配置方法和获取方式。注意事项 使用此方案将 阿里云消息队列Kafka版 接入DTS,会将数据写入到您指定的节点中。若您的源库为MySQL...

云消息队列 Kafka 接入阿里云Elasticsearch

消息队列 Kafka 云消息队列 Kafka 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 版 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。更...

作为Output接入

云消息队列 Kafka 可以作为Output接入Logstash。本文说明如何在VPC环境下通过Logstash向 云消息队列 Kafka 发送消息。前提条件 购买并部署 云消息队列 Kafka 实例。具体操作,请参见 VPC接入。下载并安装Logstash。具体操作,请...

作为Input接入

云消息队列 Kafka 可以作为Input接入Filebeat。本文说明如何在VPC环境下通过Filebeat从 云消息队列 Kafka 消费消息。背景信息 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 实例。具体操作,请参见 VPC...

服务支持

本文汇总了 云消息队列 Kafka 的常见问题与以及服务等级协议。服务支持 常见问题 相关协议

作为Input接入

云消息队列 Kafka 可以作为Input接入Logstash。本文说明如何在VPC环境下通过Logstash从 云消息队列 Kafka 消费消息。前提条件 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 实例。具体操作,请参见 VPC...

作为Output接入

云消息队列 Kafka 可以作为Output接入Filebeat。本文说明如何在VPC环境下通过Filebeat向 云消息队列 Kafka 发送消息。前提条件 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 实例。更多信息,请参见 VPC...

配置白名单

您可以设置访问 云消息队列 Kafka 的白名单,配置在白名单中的IP地址与端口才允许访问 云消息队列 Kafka 实例。前提条件 您已购买 云消息队列 Kafka 实例,且该实例处于 服务中 的状态。注意事项 公网/VPC类型的实例默认白名单为0...

创建RabbitMQ Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建流入任务,将 云消息队列 RabbitMQ 版 中的数据快速导入至 云消息队列 Kafka 。前提条件 您已购买 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
文件存储 CPFS 对象存储 云消息队列 Kafka 版 开源大数据平台 E-MapReduce 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用