在Pandas的实际数据处理场景中,数值列混入文本、缺失值是很常见的问题,直接对这类列做求和、均值等计算很容易触发类型错误或者得到不符合预期的结果,需要提前做安全处理才能保证计算正常执行。

常见的问题场景
我们先构造一个包含异常值的示例数据,方便后续演示处理方法:
import pandas as pd
import numpy as np
# 构造测试数据,数值列混入文本和缺失值
df = pd.DataFrame({
"score": [90, "85", np.nan, "缺考", 78, None, 92]
})
print("原始数据:")
print(df)
上面的score列本应是数值类型,但实际包含了字符串、np.nan、None等多种异常内容,直接调用sum()方法会直接报错。
方法一:使用pd.to_numeric转换并忽略错误
pd.to_numeric是处理混合类型数值列的常用工具,它的errors参数可以指定遇到非数值内容时的处理方式:
errors='coerce':将非数值内容转换为NaNerrors='ignore':保留原始内容不做转换
安全计算时我们优先选择coerce模式,把所有异常值统一转为缺失值,再执行计算:
# 将列转换为数值类型,异常值转为NaN
df["score_clean"] = pd.to_numeric(df["score"], errors="coerce")
print("转换后的数据:")
print(df)
# 安全计算总和、均值
total = df["score_clean"].sum()
mean = df["score_clean"].mean()
print(f"总分:{total},平均分:{mean}")
方法二:计算前过滤非数值内容
如果不想修改原始列的数据,也可以在计算前先过滤掉非数值的内容,通过pd.api.types.is_numeric判断元素是否为数值类型:
# 过滤出数值类型的元素
numeric_values = df["score"][df["score"].apply(lambda x: pd.api.types.is_numeric(x))]
print("过滤后的数值内容:")
print(numeric_values)
# 执行计算
total = numeric_values.sum()
mean = numeric_values.mean()
print(f"总分:{total},平均分:{mean}")
方法三:缺失值填充后再计算
转换为数值类型后,列中会出现NaN缺失值,部分计算场景下可以用合理的值填充缺失值再计算,比如用均值、0或者特定默认值填充:
# 先转换类型,再用列均值填充缺失值
df["score_filled"] = pd.to_numeric(df["score"], errors="coerce").fillna(df["score"].mean())
print("填充后的数据:")
print(df)
# 计算总和
total = df["score_filled"].sum()
print(f"填充后总分:{total}")
三种方法的适用场景对比
| 方法 | 适用场景 | 优点 | 缺点 |
|---|---|---|---|
| pd.to_numeric转换 | 需要统一处理整列异常值,后续多次计算 | 处理速度快,代码简洁 | 会修改列的数据类型 |
| 计算前过滤 | 只需要单次计算,不想修改原始数据 | 保留原始数据完整性 | 每次计算都需要重复过滤逻辑 |
| 缺失值填充后计算 | 缺失值有合理默认值,需要保留数据行数 | 不会减少数据量,结果更符合业务预期 | 填充值选择不当会影响结果准确性 |
注意事项
执行计算前建议先通过df.dtypes查看列的数据类型,确认是否为object类型再进行处理。如果列中文本内容是统一的格式,比如都是"分"结尾的数值,也可以先通过字符串处理提取数值部分再转换:
# 示例:处理"90分"这类带单位的文本
df_test = pd.DataFrame({"score": ["90分", "85分", np.nan, "缺考"]})
# 提取数字部分再转换
df_test["score_clean"] = pd.to_numeric(df_test["score"].str.extract(r"(d+)")[0], errors="coerce")
print(df_test)