51工具盒子

依楼听风雨
笑看云卷云舒,淡观潮起潮落

Python 内存泄漏

python 自带内存回收机制,但时不时也会发生内存泄漏的问题,本文记录 Python 内存泄漏相关内容。

内存泄漏 {#内存泄漏}

程序运行时都需要在内存中申请资源用于存放变量,python 在处理内存中的变量时会调用垃圾回收机制,会留心那些永远不会被引用的变量并及时回收变量,删除并释放相关资源。

  • Python 会为变量维护引用记数器 ,这是 Python 垃圾回收机制的基础,如果一个对象的引用数量不为 0 那么是不会被垃圾回收的;
  • 因此如果在程序中恰好有方法造成了循环引用或通过某种方式使得引用数量无法降至0,则变量无法被回收, 在批量处理大量任务时内存占用便会不断提升
  • 内存泄漏最直接的现象就是 Python 占用的内存量不断增加,直至内存溢出

问题复现 {#问题复现}

  • 以全局变量阻止垃圾回收为例:

  • 类似的泄漏现象即是如此,逐渐吃光内存

调试手段 {#调试手段}

引用数量 {#引用数量}

  • 可以通过 sys.getrefcount 函数得到对象引用数量
  • 应用数量随着引用情况的变化而变化,可以查看变量的引用数是否清空来调试内存泄漏的情况

objgraph {#objgraph}

  • objgraph 是一个用于诊断内存问题的工具,可以通过该工具打印对象数量,以此观察内存变化与对象数量的关系。

  • 安装工具

  • 调试示例

示例中不断增加 list 对象,在计数器中可以看到仅 list 对象不断递增

弱引用 {#弱引用}

  • 影响 Python 垃圾回收的核心问题在于对象引用,而Python 内置了一种特殊的引用,该引用不会增加引用数,可以作为垃圾回收良好的技术
  • 详细介绍移步 Python 弱引用 查看

循环引用 {#循环引用}

大多数内存爆炸增长都是由于将变量存在python 内置可变容器中导致的,比较容易排查,一种更加隐蔽的情况为循环引用

问题复现 {#问题复现-2}

  • 可以看到,正常情况下,创建的对象被覆盖后,如果引用数归零(line 22),则 python 会自动调用回收机制,并同时清空内存
  • 当出现循环引用时,对象的引用数增加了,即使手动 del 对象该对象在内存中也不会被删除,仅会在 python 程序退出时释放内存,也就是循环引用导致了内存泄漏

解决方案 {#解决方案}

  • 我们需要打破循环引用导致的引用数增加,在不改变代码逻辑的情况下,可以将部分 引用转换为弱引用,在保证功能不变的前提下打破计数的引用环,使得对象删除时内存得以正确释放
  • 修正代码

  • 通过调试过程可以看到,在使用弱引用打破计数引用环后,删除对象可以正常释放内存,避免了之前的内存泄漏

  • 使用弱引用时需要注意,弱引用不计入引用数量,因此如果需要某个变量存在,必须给他一个正经的引用名称,如果直接用弱引用指向创建的对象,该对象会由于引用数为0而在创建后直接被删除

  • 然而在实际应用中我们不是很喜欢手动删除所有对象,毕竟不写 C++ 好多年了,是否有方案即解决循环引用难以回收的问题,又可以方便地通过直接覆盖变量的方式方便 python 资源自动回收呢,我在这里做了一个尝试供后人参考

  • 思路就是根节点中的变量维护其余节点的唯一引用,同时其余节点反向引用时使用弱引用,这样根节点和其他节点都仅有一个有效引用,并且其他节点的引用会随着根节点的消失而清空,这样仅通过覆盖根节点即完成了循环引用中所有变量的销毁回收

字典缓存 {#字典缓存}

问题复现 {#问题复现-3}

  • 字典经常用来保存已经生成的变量,避免使用同一个结果的函数多次生成
  • 然而临时结果在无人引用时由于字典的引用会导致保存的对象不会自动释放

  • 尽管原始创建的变量已经被覆盖销毁,由于在字典中仍保留了他们的引用,因此内存不会被释放

解决方案 {#解决方案-2}

  • 解决的思路还是从引用数上入手,我们的需求是令那些不再有人能引用到的 value 被清理回收
  • 实际上,用字典缓存数据对象的做法很常用,为此 weakref 模块还提供了两种只保存弱引用的字典对象
    • weakref.WeakKeyDictionary ,键只保存弱引用的映射类(一旦键不再有强引用,键值对条目将自动消失);
    • weakref.WeakValueDictionary ,值只保存弱引用的映射类(一旦值不再有强引用,键值对条目将自动消失);
  • 因此,我们的数据缓存字典可以采用 weakref.WeakValueDictionary 来实现,它的接口跟普通字典完全一样。这样我们不用再自行维护弱引用对象,代码逻辑更加简洁明了

  • 仅更换了字典定义,python 可以正常执行垃圾回收工作

终极方案 {#终极方案}

  • 如果无论如何都难以解决内存泄漏的问题,尝试在代码中加入强制垃圾回收的命令

gc 模块是Python的垃圾收集器模块,gc 使用标记清除算法回收垃圾

  • 弊端就是这个函数比较慢

参考资料 {#参考资料}



文章链接:
https://www.zywvvd.com/notes/coding/python/python-mem-leak/python-mem-leak/

赞(0)
未经允许不得转载:工具盒子 » Python 内存泄漏