51工具盒子

依楼听风雨
笑看云卷云舒,淡观潮起潮落

开源软件

logstash对接kafka (待完善)

logstash对接kafka (待完善)

厉飞雨 阅读(87) 评论(0) 赞(6)

logstash对接kafka: - 模拟logstash作为kafka的生产者 ----------------------- ![](http://static.51tbox.com/static/2024-08-29/col/94bde040234b4a71fb9b494b37e33cdb/057438c131f446249fdcec3adf6551ba.png....

kafka原理之为什么快

kafka原理之为什么快

厉飞雨 阅读(66) 评论(0) 赞(6)

kafka原理之为什么快 消息持久化及其缓存 磁盘性能:在传统的磁盘写入很慢,因为它使用随机写入 50k/s(6 个 7200 转的 sata 硬盘组成的 raid-5),但是线性写入速度有 300ms/s 的速度,所以 kafka 利用线性写入的方式。 线性写入:将数据调用操作系统文件接口写到文件系统里面去这样就缓存到操作系统的页面缓存中,然后传统意思来说将其 flus...

kafka参数调优

kafka参数调优

厉飞雨 阅读(76) 评论(0) 赞(5)

kafka参数调优 ### 1.broke 可以按如下配置 将自动生成 brokeid 自动识别 host.name #broker.id=2 listeners=SASL_PLAINTEXT://:9092 zookeeper.connect=10.161.17.71:2181,10.161.17.72:2181,10.161.17....

Kafka 数据可靠性如何保证?

Kafka 数据可靠性如何保证?

厉飞雨 阅读(57) 评论(0) 赞(6)

Kafka 数据可靠性如何保证? 对于 kafka 来说,以下几个方面来保障消息分发的可靠性: 1.消息发送的可靠性保障(producer) 2.消息消费的可靠性保障(consumer) 3.Kafka 集群的可靠性保障(Broker) ### 生产者 目前生产者发送消息(acks)有三种方式。 acks=0 producer 不等待 broker 的...

filebeat对接kafka

filebeat对接kafka

厉飞雨 阅读(82) 评论(0) 赞(6)

filebeat对接kafka ![](http://static.51tbox.com/static/2024-08-29/col/b42b20bbb29dfa1f66d81e56732e8987/a5ccd6986349499dab27241a7fb92f6f.png.jpg) - 模拟filebeat作为生产者 ----------------- 1.启动消费者 ...

kafka开源监控组件-kafka-eagle

kafka开源监控组件-kafka-eagle

厉飞雨 阅读(46) 评论(0) 赞(4)

kafka开源监控组件-kafka-eagle 需要 kafka zk 开启 jmx 服务 参考文档: http://www.kafka-eagle.org/articles/docs/installation/dashu-macos.html http://www.kafka-eagle.org/articles/docs/changelog/changelog.htm...

kafka消费者组管理实战

kafka消费者组管理实战

厉飞雨 阅读(67) 评论(0) 赞(5)

kafka消费者组管理实战 kafka topic管理命令(启动生产者,消费者) : [连接](https://51tbox.com/) ### 1.查看现有的消费者组 kafka-consumer-groups.sh --bootstrap-server 10.0.0.111:9092 --list ![](http://static.51tbox.co...

kafka集群安装

kafka集群安装

厉飞雨 阅读(81) 评论(0) 赞(5)

kafka集群安装 这个是在 单机版安装后的前提下 部署的集群, 这样操作比较方便。 ### (1) 先安装单机版 kafka kafka安装(单机版): [连接](https://51tbox.com/) ### (2)同步kafka程序包到其他节点 data_rsync.sh /baimei/softwares/kafka_2.12-3.3.2 ![]...