2024-08-30 厉飞雨 阅读(75) 评论(0) 赞(7)

 1.提交一个 Spark 应用程序，首先通过 Client 向 ResourceManager 请求启动一个 Applicat...

2024-08-30 厉飞雨 阅读(78) 评论(0) 赞(6)

生产环境中，Kafka 如何保证消息幂等性问题 #### 1.Kafka 幂等性的必要性？ Producer 在生产发送消息时，难免会重复发送消息。Producer 进行 retry 时会产生重试机制， 发生消息重复发送。而引入幂等性后，重复发送只会生成一条有效的消息。Kafka 作为分布 式消息系统，它的使用场景常见与分布式系统中，比如消息推送系统、业务平台系统（...

2024-08-30 厉飞雨 阅读(97) 评论(0) 赞(6)

hadoop集群数据倾斜任务排查实战记录 一、问题发现 作业监控发现作业存在数据倾斜  问题排查 在 YARN 监控页...

2024-08-30 厉飞雨 阅读(97) 评论(0) 赞(6)

HBase 的一级索引就是 rowkey，我们只能通过 rowkey 进行检索。如果我们想对 hbase 里面 列族的列进行一些组合查询，就需要采用 HBase 的二级索引方案来进行多条件的查询。 二级索引的本质：就是建立各列值与行键之间的映射关系。 设计思路： ![](http://static.51tbox.com/static/2024-08-29/col/2a2...

2024-08-30 厉飞雨 阅读(75) 评论(0) 赞(6)

一、问题发现 2019-05-07 XXX 告知 XXX 集群作业跑的很慢，提供作业 ID 为:application_1523379785773_150848 问题排查 作业查看 ![](http://static.51tbox.com/static/2024-08-29/col/9412a55d79f5727018d1deaeba1183a8/ad92a0e4b3...

2024-08-30 厉飞雨 阅读(67) 评论(0) 赞(7)

**所谓推测式执行，就是计算框架判断，如果有一个task执行的过慢，则会启动备份任务，最终使用原任务+备份任务中执行较快task的结果。产生原因一般是程序bug、负载倾斜。** mapreduce 推测执行的参数，开启此参数 ![](http://static.51tbox.com/static/2024-08-29/col/9a02338150d3f340eebf93cc...

2024-08-30 厉飞雨 阅读(92) 评论(0) 赞(6)

集群作业执行缓慢问题排查 1 ### 问题发现 2022-05-07 XXX 告知 XXX 集群作业跑的很慢，提供作业 ID 为:application_1523379785773_87898 问题排查 作业查看 排查的时候作业已经执行完毕，发现只有 58 个 map，且没有 reduce，实在不应该慢！ ![](http://static.51tbox.com/...

2024-08-30 厉飞雨 阅读(83) 评论(0) 赞(3)

HBase 参数调优 ### 1.Region 相关参数 hbase.hregion.max.filesize 默认 10G，Region 中任意 HStore 所有文件大小总和大于该值就会进行分裂。实际生产环境中该值不建议太大，也不能太小，太大会导致系统后台执行 compaction 消耗大量系统资源，一定程度上影响业务响应；太小会导致Region 分裂比较频繁...

2024-08-30 厉飞雨 阅读(80) 评论(0) 赞(7)

1.查看状态  2.查看流量 ![](http://static.51tbox.com/static/2024-08-29/...

2024-08-30 厉飞雨 阅读(108) 评论(0) 赞(7)

HBase 巡检 HBase 是使用 HDFS 作为底层存储的 NoSQL 数据库，提供了满足实时性和随即读写功能的数据库服务。 每日早晚巡检 HBase 服务，检查各集群的 HMaster 和 RegionServer 状态，是否事务积压等问题。 ### 1.查看 CM HBase 的整体状态 1.HBase 的状态，目前看没有严重警告 ![](http://sta...