2024-12-02 厉飞雨 阅读(208) 评论(0) 赞(13)

英文: Apache Kafka StartUp Error - Invalid value 3.0-IV1 for configuration message.format.version 问题 {#heading} ============= 我已在Microsoft WSL（Linux分发版Ubuntu 18）上安装了Apache Kafka，突然间在我们的本地...

2024-12-02 厉飞雨 阅读(224) 评论(0) 赞(14)

英文: Kafka ensuring consumer group stays alive 问题 {#heading} ============= 我有一个在独立的Kubernetes Pod中生成生产者和消费者的过程。我想使用`auto.offset.reset "latest"`，因此需要确保消费者 Pod 在生产者 Pod 之前启动，因为我不...

2024-12-02 厉飞雨 阅读(257) 评论(0) 赞(15)

<p>英文:</p> <p>Kafka Consumer not receiving any message from Topic even though group id and client id is set correctly</p> <h1>问题 {#heading}</h1> <p>...

2024-11-19 厉飞雨 阅读(173) 评论(0) 赞(13)

<p>报错信息:Failed to send messages after 3 tries.</p> <pre><code>[2020-03-30 06:53:28,302] ERROR Error in handling batch of 1 events (kafka.producer.async.ProducerSendTh...

2024-11-19 厉飞雨 阅读(180) 评论(0) 赞(23)

#### 什么是Kafka 在流式计算中，Kafka一般用来缓存数据，Storm通过消费Kafka的数据进行计算。 Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。 Kafka最初是由LinkedIn公司开发，并于 2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为...

2024-11-19 厉飞雨 阅读(237) 评论(0) 赞(17)

<p>项目中kafka异常重启导致输出日志报错如下:</p> <pre><code>[2022-11-04 08:24:31,508] FATAL [KafkaServer id=1] Fatal error during KafkaServer startup. Prepare to shutdown (kafka.server...

2024-11-19 厉飞雨 阅读(294) 评论(0) 赞(16)

<h2>1、简介 {#1简介}</h2> <p>在 Apache Kafka 中传输消息时，客户端和服务器会就使用共同的语法格式达成协议。Apache Kafka 提供了默认的转换器（Converter），如 <code>String</code> 和 <code>Long</code>。同时也...

2024-11-19 厉飞雨 阅读(213) 评论(0) 赞(17)

1、简介 {#1简介} ----------- 消费者组允许多个消费者从同一 Topic 消费数据，有助于创建更具可扩展性的 Kafka 应用。 本文将带你了解消费者组以及它们如何在其消费者之间重新平衡分区（Rebalance Partition）。 2、消费者组是什么？ {#2消费者组是什么} ---------------------- 消费者组是一组与一个或多个 ...

2024-11-19 厉飞雨 阅读(153) 评论(0) 赞(17)

<p>在公司测试环境由于内存不足导致kafka服务自动停止，再次启动时java服务日志存在报错：</p> <pre><code>2024-09-18 10:31:35.727 WARN 23061 --- [consumer-0-C-1] o.a.k.c.NetworkClient : [C...

2024-11-13 厉飞雨 阅读(350) 评论(0) 赞(17)

<h2>1、概览 {#1概览}</h2> <p>本文将带你了解从 Kafka 命令行（CLI）发送 Key/Value 消息的两种方法。</p> <p>在处理金融交易、预订、在线购物等实时事件驱动系统中，确保特定 Topic 上消息的有序性是一个常见需求。在这种情况下，我们应该为发送到这些 Topic 的事件使用 &l...