产品架构

消息队列 Kafka 系统架构 如 云消息队列 Kafka 的系统架构 所示,一个 云消息队列 Kafka 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka 的系统架构 Producer 通过push模式向 云消息队列 Kafka ...

什么是云消息队列 Kafka

消息队列 Kafka 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。产品优势 云消息队列 ...

迁移概述

本文介绍将自建Kafka集群迁移到 云消息队列 Kafka 实例的优势、原理、方案架构、迁移工具和操作流程。迁移优势 将自建Kafka集群迁移到 云消息队列 Kafka 实例的优势,请参见 产品优势。迁移原理 对于消息队列来说,如果要实现集群...

概述

本文旨在以简单明了的方式引导您快速上手 云消息队列 Kafka 。操作流程 根据网络类型不同,快速入门的操作流程有所不同,详情请参见 云消息队列 Kafka 快速入门操作流程。图 1.云消息队列 Kafka 快速入门操作流程 操作步骤 具体操作...

查看迁移进度

本文说明如何查看自建Kafka集群迁移到 云消息队列 Kafka 的进度。前提条件 您已开始自建Kafka集群迁移上云。迁移类型包括:通过命令行迁移 迁移Topic上云 迁移Group上云 迁移数据上云 通过元数据文件迁移上云 迁移自建Kafka集群至新实例...

新功能发布记录

本文介绍 云消息队列 Kafka 的产品功能动态及对应的文档。2024-04-15 功能名称 功能描述 功能类型 相关文档 V3.0 Serverless系列实例在华东2(上海)地域开服 云消息队列 Kafka V3.0 Serverless系列实例支持在华东2(上海)地域选购...

产品概述

本文介绍 云消息队列 Kafka 的产品动态、产品简介及产品计费。云消息队列 Kafka 动态与公告 产品简介 产品计费 云消息队列 Confluent 版 什么是云消息队列 Confluent 版?产品计费

客户端首次接入云消息队列 Kafka 时出现异常的排查...

概述 本文主要介绍客户端首次接入云消息队列 Kafka 时,出现异常的排查方法。详细信息 客户端首次接入云消息队列 Kafka 时如果出现异常,您可以通过以下三个方面进行排查:网络连通问题:通常有如下几种情况可能会导致网络不通,客户端...

常见问题

使用云消息队列 Kafka 时客户端的报错及解决方案 无法ping通云消息队列 Kafka 的接入点 客户端消费问题 订阅者最佳实践 客户端首次接入云消息队列 Kafka 时出现异常的排查方法 使用云消息队列 Kafka 时出现消息堆积 为什么消费客户...

我使用的Connector组件如何计费?

消息队列 Kafka 的Connector组件处于公测阶段,且独立于 云消息队列 Kafka 实例,因此不会在 云消息队列 Kafka 侧产生费用。同时阿里云不承诺Connector的SLA,Connector显示依赖的其他产品的SLA和费用说明请以对应产品为准。

正式商用公告

本章节介绍 云消息队列 Kafka 的 正式商用公告细则。正式商用细则 云消息队列 Kafka 的正式商用细则如下:为提高服务质量和用户体验,云消息队列 Kafka 全部以商用实例方式提供服务。实例的基本规格和定价信息请参见 计费概述。...

是否支持压缩消息

消息队列 Kafka 服务端支持收发压缩消息。如需使用压缩消息,您需要在 云消息队列 Kafka 的客户端进行设置。在 云消息队列 Kafka 客户端进行消息压缩的说明如下:压缩格式:支持Snappy、LZ4、GZIP等压缩格式。其中,GZIP对CPU的...

创建Kafka Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将指定 云消息队列 Kafka 实例中的数据导出至其他的 云消息队列 Kafka 。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见...

应用场景

消息队列 Kafka 忽略掉文件的细节,可以将多台主机或应用的日志数据抽象成一个个日志或事件的消息流,异步发送到 云消息队列 Kafka 集群,从而实现非常低的RT。云消息队列 Kafka 客户端可批量提交消息和压缩消息,对生产者而言...

创建Kafka Source Connector

本文介绍如何在 云消息队列 Kafka 控制台创建流入任务,将指定 云消息队列 Kafka 实例中的数据快速导入至另外的 云消息队列 Kafka 实例中。前提条件 您已购买 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请...

使用云消息队列 Kafka 时出现“Not authorized to ...

问题描述 使用云消息队列 Kafka 时出现“Not authorized to access group”的错误信息。问题原因 没有创建Consumer Group时会遇到此报错信息。解决方案 您可以选择如下任意一种方式创建Consumer Group。在云消息队列 Kafka 的控制台...

使用限制

消息队列 Kafka 对某些具体指标进行了约束和规范,您在使用 云消息队列 Kafka 时注意不要超过相应的限制值,以免程序出现异常。重要 若由于您的实例配置超出使用限制导致的任何不稳定情况,不在SLA承诺和赔偿范围内。云消息队列 ...

升级实例配置

本文介绍如何在 云消息队列 Kafka 控制台完成实例升配,升级的配置项包括规格类型、流量规格、磁盘容量及分区规格等。前提条件 实例处于 服务中 或 未部署 状态。实例中没有进行中的Topic引流任务。注意事项 升级实例配置会引发集群逐台...

无法ping通云消息队列 Kafka 的接入点

问题描述 无法ping通云消息队列 Kafka 的接入点。本地客户端无法telnet Kafka或提示连接超时(Connection timed out)。问题原因 为了保证安全,云消息队列 Kafka 集群默认禁ping。连接VPC接入点时,客户端与Kafka不在同一VPC下。解决...

如何通过代理访问云消息队列 Kafka 实例

概述 暂不支持通过代理访问云消息队列 Kafka 实例,具体请查看 详细信息。详细信息 云消息队列 Kafka 的客户端访问服务端的原理如下。通过 bootstrap.servers 随机访问服务器获取Metadata。通过Metadata里的IP地址进行后续的消息收发。...

接入点对比

消息队列 Kafka 提供默认接入点、SSL接入点和SASL接入点以适用不同的连接及安全需求。默认接入点适用于在保密性较高的VPC环境收发消息;SASL接入点适用于无需对传输链路加密但需对消息收发鉴权;需要链路加密和消息鉴权,建议使用SSL...

服务支持

本文汇总了 云消息队列 Kafka 的常见问题与以及服务等级协议。服务支持 常见问题 相关协议

退款说明

本文介绍了 云消息队列 Kafka 支持的退款情况。根据计费方式的特点,云消息队列 Kafka 资源支持的退款情况如下:包年包月的 云消息队列 Kafka 资源如需退款,可在控制台上退订实例。详细信息,请参见 实例生命周期管理。按量计费...

迁移自建Kafka集群至新实例

您可以将自建Kafka集群元数据导出,然后导入 云消息队列 Kafka 实例,云消息队列 Kafka 会根据成功导入的元数据在目标 云消息队列 Kafka 实例中创建对应的Topic和Group,实现自建Kafka集群元数据迁移上云。导出元数据 使用元数据...

开发参考

本文介绍 云消息队列 Kafka 的SDK和API及Terraform的支持情况,供您进行对应的开发操作。开发参考 API参考指南 SDK参考 Terraform

将云消息队列 Kafka 接入阿里云Elasticsearch

消息队列 Kafka 消息队列 Kafka 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。更...

作为Input接入

消息队列 Kafka 可以作为Input接入Filebeat。本文说明如何在VPC环境下通过Filebeat从 云消息队列 Kafka 消费消息。背景信息 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 实例。具体操作,请参见 VPC...

VPC接入

如果仅需要在VPC网络接入 云消息队列 Kafka ,您可以购买并部署VPC实例。前提条件 已授予 云消息队列 Kafka 访问其他云服务资源的权限。具体信息,请参见 步骤一:获取访问授权。已搭建VPC网络。具体操作,请参见 创建和管理专有网络...

使用云消息队列 Kafka 时客户端的报错及解决方案

在使用云消息队列 Kafka 时,客户端可能报错,您可以根据报错消息匹配对应的解决方案。详细信息 报错信息对应的详细信息如下。报错信息 客户端语言类型 报错原因 解决方案 TimeoutException Java 网络问题 客户端鉴权(sasl.mechanisms)...

公网和VPC接入

如果需要同时在VPC网络和公网接入 云消息队列 Kafka ,您需要购买并部署公网/VPC实例。前提条件 已授予 云消息队列 Kafka 访问其他云服务资源的权限。具体信息,请参见 获取访问授权。已搭建VPC网络。具体操作,请参见 创建和管理专有...

创建RabbitMQ Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 云消息队列 RabbitMQ 版。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于服务中状态。具体步骤,请参见 步骤二:购买和...

创建MNS Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 消息服务。前提条件 您已购买并部署 云消息队列 Kafka 实例,且实例处于 服务中 状态。具体步骤,请参见 步骤二:购买和部署实例。您...

作为Input接入

消息队列 Kafka 可以作为Input接入Filebeat。本文说明如何在公网环境下通过Filebeat从 云消息队列 Kafka 消费消息。背景信息 在开始本教程前,请确保您已完成以下操作:购买并部署 云消息队列 Kafka 实例。具体操作,请参见 ...

创建RocketMQ Sink Connector

本文介绍如何在 云消息队列 Kafka 控制台创建消息流出任务,将 云消息队列 Kafka 的数据导出至 云消息队列 RocketMQ 版。前提条件 您已购买 云消息队列 RocketMQ 版 实例,且实例处于 服务中 状态。具体步骤,请参见 创建资源。您已...

为什么在控制台看不到Group的订阅关系?

问题现象 您已启动某个Group的消费线程,但在 云消息队列 Kafka 控制台 的 Topic 详情 页面的 订阅关系 页签,查不到Topic被Group订阅的信息,或者在 Group 详情 页面的 消费状态 页签,查不到该Group订阅的Topic信息。可能原因 客户端...

配置消息队列Kafka版实例的参数

本文为您介绍目标数据库实例为 专线/VPN网关/智能网关 方式接入的 阿里云消息队列Kafka版 时,部分特殊参数的配置方法和获取方式。注意事项 使用此方案将 阿里云消息队列Kafka版 接入DTS,会将数据写入到您指定的节点中。若您的源库为MySQL...

创建前提

AliyunKafkaFullAccess:管理 云消息队列 Kafka 的权限。AliyunFCFullAccess:管理 函数计算FC(Function Compute)的权限。AliyunEventBridgeFullAccess:管理 事件总线EventBridge 的权限。目标服务的管理权限。除上述必要权限外,如...

欠费说明

本文介绍 云消息队列 Kafka 实例到期欠费后的影响,建议您提前续费,避免影响业务运行。欠费影响 如果您购买的为包年包月实例,实例到期后,您账户下的 云消息队列 Kafka 服务会切换为 已过期 状态,即您将不能再继续使用 云消息队列...

为什么限制Topic总数(分区总数)?

Topic总数(分区总数)太多会使集群性能和稳定性能急剧下降。云消息队列 Kafka 的存储和协调机制是以分区为粒度的,分区数太多,会导致存储碎片化严重,集群性能和稳定性都会急剧下降。

评估规格

使用说明 云消息队列 Kafka 提供的规格评估功能将根据您输入的自建Kafka集群的信息,如集群流量情况、磁盘容量和类型、分区数量等,来为您评估并推荐需要的 云消息队列 Kafka 实例规格,帮助您提前根据推荐部署 云消息队列 Kafka ...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云消息队列 Kafka 版 云消息队列 RocketMQ 版 云安全中心 开源大数据平台 E-MapReduce 商标服务 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用