配置消息队列Kafka版实例的参数
本文为您介绍目标数据库实例为 专线/VPN网关/智能网关 方式接入的 阿里云消息队列Kafka版 时，部分特殊参数的配置方法和获取方式。注意事项 使用此方案将 阿里云消息队列Kafka版 接入DTS，会将数据写入到您指定的节点中。若您的源库为MySQL...
开源对比
项目 云消息队列 Kafka 版 Apache Kafka 差异原因 Topic 创建方式 云消息队列 Kafka 版 控制台 云消息队列 Kafka 版 OpenAPI 服务端自动创建（默认不开启）Kafka CLI Kafka Manager 服务端自动创建 云消息队列 Kafka 版 默认通过阿里云控制...
什么是云消息队列 Kafka 版？
云消息队列 Kafka 版 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。云消息队列 Kafka 版 广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，已成为大数据生态中不可或缺的部分。产品优势 云消息队列 ...
产品架构
云消息队列 Kafka 版 系统架构 如 云消息队列 Kafka 版的系统架构 所示，一个 云消息队列 Kafka 版 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka 版 的系统架构 Producer 通过push模式向 云消息队列 Kafka 版...
云消息队列 Kafka 版服务等级协议
云消息队列 Kafka 版 规定了阿里云向客户提供的阿里云 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案。如需查看 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案，请参见 云消息队列 Kafka 版服务等级协议。
退款说明
根据计费方式的特点，云消息队列 Kafka 版 资源支持的退款情况如下：包年包月的 云消息队列 Kafka 版 资源如需退款，可在控制台上退订实例。详细信息，请参见 实例生命周期管理。按量计费的 云消息队列 Kafka 版 资源在使用后才支付费用，...
什么是云消息队列 Kafka 版？
三分钟了解阿里云 云消息队列 Kafka 版。
迁移概述
迁移路由 云消息队列 Kafka 版 提供全托管、免运维的实例迁移服务，用于自建实例与 云消息队列 Kafka 版 实例之间或者 云消息队列 Kafka 版 实例之间的数据同步，无需借助工具即可在控制台上实现实例迁移，迁移完成后目标集群的元数据与源...
为什么不能登录部署云消息队列 Kafka 版的机器？
云消息队列 Kafka 版 提供全托管免运维服务，您无需登录机器。云消息队列 Kafka 版 是全托管的，由 云消息队列 Kafka 版 专业团队进行运维保障，您无需登录机器。集群的一些基础信息会通过监控告警进行透传。
概述
本文旨在以简单明了的方式引导您快速上手 云消息队列 Kafka 版。操作流程 根据网络类型不同，快速入门的操作流程有所不同，详情请参见 云消息队列 Kafka 版快速入门操作流程。图 1.云消息队列 Kafka 版 快速入门操作流程 操作步骤 具体操作...
产品概述
本文介绍 云消息队列 Kafka 版 的产品动态、产品简介及产品计费。云消息队列 Kafka 版 动态与公告 产品简介 产品计费 云消息队列 Confluent 版 什么是云消息队列 Confluent 版？产品计费
快速入门
如果您首次使用 云消息队列 Kafka 版，您可以参考快速入门文档。快速入门文档 云消息队列 Kafka 版快速入门 云消息队列 Confluent 版快速入门
查看迁移进度
本文说明如何查看自建Kafka集群迁移到 云消息队列 Kafka 版 的进度。前提条件 您已开始自建Kafka集群迁移上云。迁移类型包括：通过命令行迁移 迁移Topic上云 迁移Group上云 迁移数据上云 通过元数据文件迁移上云 迁移自建Kafka集群至新实例...
客户端首次接入云消息队列 Kafka 版时出现异常的排查...
详细信息 客户端首次接入云消息队列 Kafka 版时如果出现异常，您可以通过以下三个方面进行排查：网络连通问题：通常有如下几种情况可能会导致网络不通，客户端无法连接云消息队列 Kafka 版的服务端。ECS实例（客户端）与云消息队列 Kafka ...
为什么额外增加分区要收费？
云消息队列 Kafka 版 优化了集群增加大量分区后带来的性能下降问题。自建开源Apache Kafka...阿里云 云消息队列 Kafka 版 对此进行了优化，单个集群的分区数理论上没有上限。但分区数的增加会消耗一些服务端资源，因此增加分区数需要收费。
查看接入点
如需使用SDK接入 云消息队列 Kafka 版 收发消息，您需要根据实例的网络环境类型来配置接入点。本文介绍如何在 云消息队列 Kafka 版 控制台查看接入点。背景信息 云消息队列 Kafka 版 提供以下类型的接入点：默认接入点：适用于在VPC环境...
为什么需要升级实例来支持监控告警功能？
在控制台上可以查看和设置监控告警功能，但是在2018年11月以前部署的 云消息队列 Kafka 版 集群不支持上报监控告警数据，因此需要升级旧版本的 云消息队列 Kafka 版 实例集群，让它可以上报监控告警数据。若您要升级您的 云消息队列 Kafka ...
操作指南
您可以在 云消息队列 Kafka 版 控制台创建实例、进行消息收发。云消息队列 Kafka 版 V3系列Serverless实例管理 V2系列实例管理 Topic Group Connector生态集成 迁移 权限管理 云消息队列 Confluent 版 集群资源规格评估 实例管理 权限管理 ...
使用ACL功能进行访问控制
背景信息 企业A购买了 云消息队列 Kafka 版，企业A希望用户A只能从 云消息队列 Kafka 版 的所有Topic中消费消息，而不能向 云消息队列 Kafka 版 的任何Topic生产消息。注意事项 Kafka为公网/VPC类型实例提供默认SASL用户，默认SASL用户仅...
不在同一可用区内的ECS实例如何访问云消息队列 Kafka ...
详细信息 以非公网的方式访问云消息队列 Kafka 版实例时，必须满足以下两个条件：ECS实例与云消息队列 Kafka 版实例在同一VPC网络实例内。如果ECS实例和云消息队列 Kafka 版实例不在同一个VPC网络实例内，请根据实际情况，重新创建或部署...
欠费说明
欠费影响 如果您购买的为包年包月实例，实例到期后，您账户下的 云消息队列 Kafka 版 服务会切换为 已过期 状态，即您将不能再继续使用 云消息队列 Kafka 版 服务。如果您购买的为按量计费实例 或弹性按量计费实例，当您的账户余额不足以...
消息队列Kafka版删除Group后仍然收到消息堆积的告警...
问题描述 使用阿里云消息队列Kafka版时，删除Group后，仍然收到消息堆积的告警信息，如何过滤某个Group的消费堆积告警。问题原因 发生消息堆积告警信息的原因如下：2.2.0以前的Kafka服务端版本，开源Kafka未提供删除Group和消费位点的Open...
通过元数据文件迁移上云
本文介绍如何在 云消息队列 Kafka 版 控制台创建迁移任务，将元数据迁移至 云消息队列 Kafka 版 已有实例。前提条件 下载JDK 8 购买并部署 云消息队列 Kafka 版 实例：购买并部署VPC实例 购买并部署公网/VPC实例 背景信息 Kafka集群元数据...
默认配置映射关系
源端类型 模式 值 云消息队列 Kafka 版 部分事件$.data.value 消息服务MNS 部分事件$.data.messageBody 云消息队列 RabbitMQ 版 部分事件$.data.body 云消息队列 MQTT 版 部分事件$.data.body 数据传输服务DTS 部分事件$.data 云消息队列 ...
基于Flink的资讯场景实时数仓
部署架构图 选用的产品 云消息队列 Kafka 版 云消息队列 Kafka 版 是阿里云基于Apache Kafka构建的高吞吐量、高可扩展性的分布式消息队列服务，广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等，是大数据生态中不可或缺的...
SDK概述
本文介绍 云消息队列 Kafka 版 SDK、支持的多语言SDK。SDK简介 SDK（Software Development Kit）即软件开发工具包，包含示例Demo、库文件、编译工具链以及编译脚本等，不需要开发者进行任何其他的配置，直接可以在SDK对应目录环境下，进行...
从自建MySQL同步至云消息队列 Kafka 版
背景信息 云消息队列 Kafka 版 是阿里云提供的分布式、高吞吐、可扩展的消息队列服务，针对开源的Apache Kafka提供全托管服务，彻底解决开源产品长期以来的痛点，您只需专注于业务开发，无需部署运维。云消息队列 Kafka 版 广泛用于日志...
控制台看到的最近消费时间是什么意思？
消息发布到 云消息队列 Kafka 版 服务器的存储时间。控制台看到的 最近消费时间 是指消息发布到 云消息队列 Kafka 版 服务器的存储时间。如果消费没有堆积，那么这个时间接近发送时间。
是否支持压缩消息？
云消息队列 Kafka 版 服务端支持收发压缩消息。如需使用压缩消息，您需要在 云消息队列 Kafka 版 的客户端进行设置。在 云消息队列 Kafka 版 客户端进行消息压缩的说明如下：压缩格式：支持Snappy、LZ4、GZIP等压缩格式。其中，GZIP对CPU的...
为什么Group不存在但能消费消息？
问题现象 我在 云消息队列 Kafka 版 控制台 上，未查看到对应的Group，但此Group下却有消费线程在消费消息。可能原因 如果客户端使用 assign 方式消费消息，那么即使不创建Group，也可能消费消息。如果客户端使用 subscribe 方式消费消息，...
使用云消息队列 Kafka 版时出现“Not authorized to ...
问题描述 使用云消息队列 Kafka 版时出现“Not authorized to access group”的错误信息。问题原因 没有创建Consumer Group时会遇到此报错信息。解决方案 您可以选择如下任意一种方式创建Consumer Group。在云消息队列 Kafka 版的控制台...
验证迁移结果
迁移成功后，目标 云消息队列 Kafka 版 实例下会创建对应的Topic和 Group。您可以在 Topic 管理 和 Group 管理 页面的列表中查看。前提条件 您已将自建Kafka集群迁移至 云消息队列 Kafka 版 实例中。迁移类型包括：通过命令行迁移 迁移...
消息检索
当 云消息队列 Kafka 版 控制台提供的按位点查询和按时间查询消息的功能无法满足您搜索消息的需求时，您可以使用 云消息队列 Kafka 版 消息检索功能。消息检索支持按Topic分区、位点范围、时间范围以及消息Key和Value关键字检索。本文介绍...
查看接入点
如需使用客户端连接 云消息队列 Kafka 版 收发消息，您需要根据客户端的网络环境类型及传输的安全需要来配置接入点。默认接入点适用于在保密性较高的VPC环境收发消息；SASL接入点适用于无需对传输链路加密但需对消息收发鉴权；同时需要链路...
是否支持Compact的日志清理策略？
开源版本为2.2.0或以上的 云消息队列 Kafka 版 实例支持Compact的日志清理策略。开源版本为2.2.0或以上的 云消息队列 Kafka 版 实例支持Compact的日志清理策略。如需升级实例的开源版本以支持Compact的日志清理策略，请参见 升级大版本。
升级实例配置
本文介绍如何在 云消息队列 Kafka 版 控制台完成实例升配，升级的配置项包括规格类型、流量规格、磁盘容量及分区规格等。前提条件 实例处于 服务中 或 未部署 状态。实例中没有进行中的Topic引流任务。注意事项 升级实例配置会引发集群逐台...
能否通过公网访问云消息队列 Kafka 版实例？
网络类型为公网/VPC的 云消息队列 Kafka 版 实例支持通过公网访问。云消息队列 Kafka 版 提供VPC和公网/VPC两种网络类型的实例。如需通过公网访问，请购买公网/VPC实例。如果已购买VPC实例，请升级实例配置，变更VPC实例为公网/VPC实例。更...
默认配置映射关系
目标端类型 模式 值 云消息队列 Kafka 版 部分事件$.data.value 消息服务MNS 部分事件$.data.messageBody 云消息队列 RabbitMQ 版 部分事件$.data.body 云消息队列 MQTT 版 部分事件$.data.body 数据传输服务DTS 部分事件$.data 云消息队列 ...
使用限制
云消息队列 Kafka 版 对某些具体指标进行了约束和规范，您在使用 云消息队列 Kafka 版 时注意不要超过相应的限制值，以免程序出现异常。重要 若由于您的实例配置超出使用限制导致的任何不稳定情况，不在SLA承诺和赔偿范围内。云消息队列 ...
默认配置映射关系
目标端类型 模式 值 云消息队列 Kafka 版 部分事件$.data.value 消息服务MNS 部分事件$.data.messageBody 云消息队列 RabbitMQ 版 部分事件$.data.body 云消息队列 MQTT 版 部分事件$.data.body 数据传输服务DTS 部分事件$.data 云消息队列 ...
- 产品推荐
- 这些文档可能帮助您