51工具盒子

2024-08-30 厉飞雨 阅读(338) 评论(0) 赞(16)

一、问题发现 2019-05-07 XXX 告知 XXX 集群作业跑的很慢，提供作业 ID 为:application_1523379785773_150848 问题排查 作业查看 ![](http://static.51tbox.com/static/2024-08-29/col/9412a55d79f5727018d1deaeba1183a8/ad92a0e4b3...

2024-08-30 厉飞雨 阅读(386) 评论(0) 赞(16)

**所谓推测式执行，就是计算框架判断，如果有一个task执行的过慢，则会启动备份任务，最终使用原任务+备份任务中执行较快task的结果。产生原因一般是程序bug、负载倾斜。** mapreduce 推测执行的参数，开启此参数 ![](http://static.51tbox.com/static/2024-08-29/col/9a02338150d3f340eebf93cc...

2024-08-30 厉飞雨 阅读(326) 评论(0) 赞(19)

集群作业执行缓慢问题排查 1 ### 问题发现 2022-05-07 XXX 告知 XXX 集群作业跑的很慢，提供作业 ID 为:application_1523379785773_87898 问题排查 作业查看 排查的时候作业已经执行完毕，发现只有 58 个 map，且没有 reduce，实在不应该慢！ ![](http://static.51tbox.com/...

2024-08-30 厉飞雨 阅读(406) 评论(0) 赞(20)

HBase 参数调优 ### 1.Region 相关参数 hbase.hregion.max.filesize 默认 10G，Region 中任意 HStore 所有文件大小总和大于该值就会进行分裂。实际生产环境中该值不建议太大，也不能太小，太大会导致系统后台执行 compaction 消耗大量系统资源，一定程度上影响业务响应；太小会导致Region 分裂比较频繁...

2024-08-30 厉飞雨 阅读(317) 评论(0) 赞(19)

1.查看状态  2.查看流量 ![](http://static.51tbox.com/static/2024-08-29/...

2024-08-30 厉飞雨 阅读(385) 评论(0) 赞(19)

HBase 巡检 HBase 是使用 HDFS 作为底层存储的 NoSQL 数据库，提供了满足实时性和随即读写功能的数据库服务。 每日早晚巡检 HBase 服务，检查各集群的 HMaster 和 RegionServer 状态，是否事务积压等问题。 ### 1.查看 CM HBase 的整体状态 1.HBase 的状态，目前看没有严重警告 ![](http://sta...

2024-08-30 厉飞雨 阅读(438) 评论(0) 赞(16)

<p>在数据库服务运行使用过程中，除了上面介绍的逻辑备份数据方法，还可以采用物理方式备份数据信息；</p> <p>物理备份数据方式又可以细分为<code>冷备份和热备份</code>两种，和逻辑备份相比，它的最大优点是备份和恢复的速度更快；</p> <p>因为物理备份的原理都是基于文件的cp。&...

2024-08-30 厉飞雨 阅读(446) 评论(0) 赞(19)

mysql 逻辑备份实战（mysqldump） 在进行数据库数据逻辑备份操作过程中，主要会运用mysqldump逻辑备份工具，可以实现本地或远程的数据备份； 利用mysqldump进行逻辑备份数据时，主要的备份逻辑是将建库、建表、数据插入语句信息导出，实现数据的备份操作； 基于mysqldump备份数据的逻辑原理，对于数据量比较小的场景（单表数据行百万以内），mysqld...

2024-08-30 厉飞雨 阅读(449) 评论(0) 赞(16)

<p>mysql 逻辑备份实战（mysqldump）进阶</p> <p>上文中已经提到mysqldump命令工具基本的数据库和数据表的备份方式，除了以上说明的参数用法，还有其他备份参数信息；</p> <p>同样可以实现进阶方式的数据库信息备份保存：</p> <p><strong>数据...

2024-08-30 厉飞雨 阅读(402) 评论(0) 赞(16)

<p>mysql 逻辑备份应用案例 实战</p> <ul> <li><strong>项目实战介绍：</strong></li> </ul> <p>模拟企业生产场景，数据库管理人员误删除了数据库数据信息，通过mysqldump全备的部分数据信息，进行部分数据信息恢复；<...