使用C++扩展Python时,内存泄漏问题往往源于对Python对象引用计数和C++自身内存管理规则的混淆,理解两者的交互逻辑是避免泄漏的核心。

C++扩展Python的内存管理核心
C++扩展Python通常通过Python C API实现,Python的对象管理依赖引用计数机制,而C++有自己的new/delete、malloc/free内存管理规则,两者需要配合正确才能避免泄漏。
Python引用计数基础
每个Python对象都有一个引用计数,当引用计数降为0时,对象会被销毁并释放内存。Python C API提供了一系列宏和函数操作引用计数:
Py_INCREF(obj):增加对象的引用计数,需要转义为Py_INCREF(obj)Py_DECREF(obj):减少对象的引用计数,当计数到0时销毁对象Py_XINCREF(obj):和Py_INCREF类似,但允许obj为NULLPy_XDECREF(obj):和Py_DECREF类似,但允许obj为NULL
C++侧内存管理规则
C++中通过new申请的内存需要通过delete释放,通过malloc申请的内存需要通过free释放,这部分内存不会受Python引用计数影响,需要开发者手动管理。
常见内存泄漏场景
场景1:Python对象引用计数操作错误
最常见的问题是忘记减少引用计数,或者错误增加引用计数导致对象永远无法被释放。
比如下面的错误示例,创建了一个Python列表对象,但是没有正确减少引用计数:
#include <Python.h>
PyObject* create_list_error() {
// 创建包含1个元素的列表,此时列表引用计数为1
PyObject* list = PyList_New(1);
if (list == NULL) {
return NULL;
}
PyObject* num = PyLong_FromLong(100);
if (num == NULL) {
// 这里如果num创建失败,list的引用计数没有减少,会导致泄漏
return NULL;
}
// 将num放入列表,PyList_SetItem会窃取引用,不需要额外INCREF num
PyList_SetItem(list, 0, num);
// 错误:没有调用Py_DECREF(list),返回后调用方如果也没有处理,list引用计数永远为1,无法释放
return list;
}
场景2:C++动态内存未释放
如果在扩展中使用了C++的new申请内存,但是没有对应的delete,也会导致泄漏,这类泄漏和Python引用计数无关。
#include <Python.h>
#include <cstring>
PyObject* process_data_error() {
// C++侧申请内存
char* buffer = new char[1024];
// 模拟数据处理
strcpy(buffer, "test data");
// 错误:没有delete[] buffer,导致C++侧内存泄漏
Py_RETURN_NONE;
}
场景3:异常场景下未释放资源
当扩展中发生Python异常时,如果没有正确释放已经申请的资源,也会导致泄漏。
#include <Python.h>
PyObject* calc_error() {
PyObject* a = PyLong_FromLong(10);
if (a == NULL) {
return NULL;
}
PyObject* b = PyLong_FromLong(0);
if (b == NULL) {
// 错误:a的引用计数没有减少,发生异常时a泄漏
PyErr_SetString(PyExc_RuntimeError, "create b failed");
return NULL;
}
// 模拟除法,除数为0会抛异常
PyObject* res = PyNumber_TrueDivide(a, b);
if (res == NULL) {
// 错误:a和b的引用计数都没有减少,异常时泄漏
return NULL;
}
Py_DECREF(a);
Py_DECREF(b);
Py_DECREF(res);
Py_RETURN_NONE;
}
避免内存泄漏的方法
1. 正确操作Python对象引用计数
遵循谁增加引用计数谁负责减少的原则,对于返回给Python的对象,需要根据函数的返回规则处理引用计数:
- 如果函数返回的是新创建的对象,通常返回的是所有权,调用方不需要额外增加引用计数,但是函数内部不需要减少引用计数
- 如果函数返回的是借用的引用(比如从其他对象中获取的引用),需要明确标注,调用方如果需要长期持有需要增加引用计数
修正后的创建列表示例:
#include <Python.h>
PyObject* create_list_correct() {
PyObject* list = PyList_New(1);
if (list == NULL) {
return NULL;
}
PyObject* num = PyLong_FromLong(100);
if (num == NULL) {
// 创建num失败,减少list的引用计数,避免泄漏
Py_DECREF(list);
return NULL;
}
PyList_SetItem(list, 0, num);
// 返回list,此时list引用计数为1,调用方持有所有权,不需要额外处理
return list;
}
2. 管理好C++侧动态内存
对于C++申请的动态内存,尽量使用智能指针管理,避免手动new/delete出错:
#include <Python.h>
#include <memory>
#include <cstring>
PyObject* process_data_correct() {
// 使用unique_ptr管理C++动态内存,离开作用域自动释放
std::unique_ptr<char[]> buffer(new char[1024]);
strcpy(buffer.get(), "test data");
// 如果需要返回数据给Python,可以构造对应的Python对象
PyObject* py_str = PyUnicode_FromString(buffer.get());
if (py_str == NULL) {
return NULL;
}
return py_str;
}
3. 异常场景下统一释放资源
使用goto或者RAII机制,在异常发生时统一释放已经申请的资源:
#include <Python.h>
PyObject* calc_correct() {
PyObject* a = NULL;
PyObject* b = NULL;
PyObject* res = NULL;
a = PyLong_FromLong(10);
if (a == NULL) {
goto error;
}
b = PyLong_FromLong(0);
if (b == NULL) {
PyErr_SetString(PyExc_RuntimeError, "create b failed");
goto error;
}
res = PyNumber_TrueDivide(a, b);
if (res == NULL) {
goto error;
}
// 正常流程释放资源
Py_DECREF(a);
Py_DECREF(b);
Py_DECREF(res);
Py_RETURN_NONE;
error:
// 异常流程统一释放已申请的资源
Py_XDECREF(a);
Py_XDECREF(b);
Py_XDECREF(res);
return NULL;
}
4. 使用工具检测内存泄漏
可以借助Valgrind、AddressSanitizer等工具检测扩展中的内存泄漏,这些工具可以定位泄漏发生的具体位置,帮助快速修复问题。同时开发过程中可以开启Python的调试模式,观察对象的引用计数变化,排查异常。
总结
使用C++扩展Python时避免内存泄漏,核心是理清Python引用计数和C++内存管理的边界,正确操作引用计数,管理好C++侧动态内存,在异常场景下做好资源释放。遵循这些规则,同时配合检测工具,就能大幅减少内存泄漏问题的出现。
C++扩展Python内存泄漏Python_C_API引用计数内存管理修改时间:2026-07-14 22:00:37