使用C++扩展Python时如何理解和避免内存泄漏

来源:微信开发网作者:新加坡程序员头衔:程序员
导读:本期聚焦于小伙伴创作的《使用C++扩展Python时如何理解和避免内存泄漏》,敬请观看详情,探索知识的价值。以下视频、文章将为您系统阐述其核心内容与价值。如果您觉得《使用C++扩展Python时如何理解和避免内存泄漏》有用,将其分享出去将是对创作者最好的鼓励。

使用C++扩展Python时,内存泄漏问题往往源于对Python对象引用计数和C++自身内存管理规则的混淆,理解两者的交互逻辑是避免泄漏的核心。

使用C++扩展Python时如何理解和避免内存泄漏

C++扩展Python的内存管理核心

C++扩展Python通常通过Python C API实现,Python的对象管理依赖引用计数机制,而C++有自己的new/delete、malloc/free内存管理规则,两者需要配合正确才能避免泄漏。

Python引用计数基础

每个Python对象都有一个引用计数,当引用计数降为0时,对象会被销毁并释放内存。Python C API提供了一系列宏和函数操作引用计数:

  • Py_INCREF(obj):增加对象的引用计数,需要转义为Py_INCREF(obj)
  • Py_DECREF(obj):减少对象的引用计数,当计数到0时销毁对象
  • Py_XINCREF(obj):和Py_INCREF类似,但允许obj为NULL
  • Py_XDECREF(obj):和Py_DECREF类似,但允许obj为NULL

C++侧内存管理规则

C++中通过new申请的内存需要通过delete释放,通过malloc申请的内存需要通过free释放,这部分内存不会受Python引用计数影响,需要开发者手动管理。

常见内存泄漏场景

场景1:Python对象引用计数操作错误

最常见的问题是忘记减少引用计数,或者错误增加引用计数导致对象永远无法被释放。

比如下面的错误示例,创建了一个Python列表对象,但是没有正确减少引用计数:

#include <Python.h>

PyObject* create_list_error() {
    // 创建包含1个元素的列表,此时列表引用计数为1
    PyObject* list = PyList_New(1);
    if (list == NULL) {
        return NULL;
    }
    PyObject* num = PyLong_FromLong(100);
    if (num == NULL) {
        // 这里如果num创建失败,list的引用计数没有减少,会导致泄漏
        return NULL;
    }
    // 将num放入列表,PyList_SetItem会窃取引用,不需要额外INCREF num
    PyList_SetItem(list, 0, num);
    // 错误:没有调用Py_DECREF(list),返回后调用方如果也没有处理,list引用计数永远为1,无法释放
    return list;
}

场景2:C++动态内存未释放

如果在扩展中使用了C++的new申请内存,但是没有对应的delete,也会导致泄漏,这类泄漏和Python引用计数无关。

#include <Python.h>
#include <cstring>

PyObject* process_data_error() {
    // C++侧申请内存
    char* buffer = new char[1024];
    // 模拟数据处理
    strcpy(buffer, "test data");
    // 错误:没有delete[] buffer,导致C++侧内存泄漏
    Py_RETURN_NONE;
}

场景3:异常场景下未释放资源

当扩展中发生Python异常时,如果没有正确释放已经申请的资源,也会导致泄漏。

#include <Python.h>

PyObject* calc_error() {
    PyObject* a = PyLong_FromLong(10);
    if (a == NULL) {
        return NULL;
    }
    PyObject* b = PyLong_FromLong(0);
    if (b == NULL) {
        // 错误:a的引用计数没有减少,发生异常时a泄漏
        PyErr_SetString(PyExc_RuntimeError, "create b failed");
        return NULL;
    }
    // 模拟除法,除数为0会抛异常
    PyObject* res = PyNumber_TrueDivide(a, b);
    if (res == NULL) {
        // 错误:a和b的引用计数都没有减少,异常时泄漏
        return NULL;
    }
    Py_DECREF(a);
    Py_DECREF(b);
    Py_DECREF(res);
    Py_RETURN_NONE;
}

避免内存泄漏的方法

1. 正确操作Python对象引用计数

遵循谁增加引用计数谁负责减少的原则,对于返回给Python的对象,需要根据函数的返回规则处理引用计数:

  • 如果函数返回的是新创建的对象,通常返回的是所有权,调用方不需要额外增加引用计数,但是函数内部不需要减少引用计数
  • 如果函数返回的是借用的引用(比如从其他对象中获取的引用),需要明确标注,调用方如果需要长期持有需要增加引用计数

修正后的创建列表示例:

#include <Python.h>

PyObject* create_list_correct() {
    PyObject* list = PyList_New(1);
    if (list == NULL) {
        return NULL;
    }
    PyObject* num = PyLong_FromLong(100);
    if (num == NULL) {
        // 创建num失败,减少list的引用计数,避免泄漏
        Py_DECREF(list);
        return NULL;
    }
    PyList_SetItem(list, 0, num);
    // 返回list,此时list引用计数为1,调用方持有所有权,不需要额外处理
    return list;
}

2. 管理好C++侧动态内存

对于C++申请的动态内存,尽量使用智能指针管理,避免手动new/delete出错:

#include <Python.h>
#include <memory>
#include <cstring>

PyObject* process_data_correct() {
    // 使用unique_ptr管理C++动态内存,离开作用域自动释放
    std::unique_ptr<char[]> buffer(new char[1024]);
    strcpy(buffer.get(), "test data");
    // 如果需要返回数据给Python,可以构造对应的Python对象
    PyObject* py_str = PyUnicode_FromString(buffer.get());
    if (py_str == NULL) {
        return NULL;
    }
    return py_str;
}

3. 异常场景下统一释放资源

使用goto或者RAII机制,在异常发生时统一释放已经申请的资源:

#include <Python.h>

PyObject* calc_correct() {
    PyObject* a = NULL;
    PyObject* b = NULL;
    PyObject* res = NULL;
    
    a = PyLong_FromLong(10);
    if (a == NULL) {
        goto error;
    }
    b = PyLong_FromLong(0);
    if (b == NULL) {
        PyErr_SetString(PyExc_RuntimeError, "create b failed");
        goto error;
    }
    res = PyNumber_TrueDivide(a, b);
    if (res == NULL) {
        goto error;
    }
    // 正常流程释放资源
    Py_DECREF(a);
    Py_DECREF(b);
    Py_DECREF(res);
    Py_RETURN_NONE;

error:
    // 异常流程统一释放已申请的资源
    Py_XDECREF(a);
    Py_XDECREF(b);
    Py_XDECREF(res);
    return NULL;
}

4. 使用工具检测内存泄漏

可以借助Valgrind、AddressSanitizer等工具检测扩展中的内存泄漏,这些工具可以定位泄漏发生的具体位置,帮助快速修复问题。同时开发过程中可以开启Python的调试模式,观察对象的引用计数变化,排查异常。

总结

使用C++扩展Python时避免内存泄漏,核心是理清Python引用计数和C++内存管理的边界,正确操作引用计数,管理好C++侧动态内存,在异常场景下做好资源释放。遵循这些规则,同时配合检测工具,就能大幅减少内存泄漏问题的出现。

C++扩展Python内存泄漏Python_C_API引用计数内存管理修改时间:2026-07-14 22:00:37

免责声明:​ 已尽一切努力确保本网站所含信息的准确性。网站内容多为原创整理与精心编撰,观点力求客观中立。本站旨在免费分享,内容仅供个人学习、研究或参考使用。若引用了第三方作品,版权归原作者所有。如内容涉及您的权益,请联系我们处理。
内容垂直聚焦
专注技术核心技术栏目,确保每篇文章深度聚焦于实用技能。从代码技巧到架构设计,为用户提供无干扰的纯技术知识沉淀,精准满足专业提升需求。
知识结构清晰
覆盖从开发到部署的全链路。AI、前端、编程、数据库、服务器、建站、系统层层递进,构建清晰学习路径,帮助用户系统化掌握开发与运维所需的核心技术。
深度技术解析
拒绝泛泛而谈,深入技术细节与实践难点。无论是数据库优化还是服务器配置,均结合真实场景与代码示例进行剖析,致力于提供可直接应用于工作的解决方案。
专业领域覆盖
精准对应开发生命周期。从前端界面到后端编程,从数据库操作到服务器运维,形成完整闭环,一站式满足全栈工程师和运维人员的技术需求。
即学即用高效
内容强调实操性,步骤清晰、代码完整。用户可根据教程直接复现和应用于自身项目,显著缩短从学习到实践的距离,快速解决开发中的具体问题。
持续更新保障
专注既定技术方向进行长期、稳定的内容输出。确保各栏目技术文章持续更新迭代,紧跟主流技术发展趋势,为用户提供经久不衰的学习价值。