导读:本期聚焦于小伙伴创作的《如何用Pandas高效筛选并清理包含缺失年份的日期数据》,敬请观看详情,探索知识的价值。以下视频、文章将为您系统阐述其核心内容与价值。如果您觉得《如何用Pandas高效筛选并清理包含缺失年份的日期数据》有用,将其分享出去将是对创作者最好的鼓励。

在数据分析工作中,日期字段常常因为录入错误、系统导出问题而出现年份缺失或整条日期为空的情况。用Pandas可以非常高效地完成这类数据的筛选与清理,不需要写复杂的循环。

如何用Pandas高效筛选并清理包含缺失年份的日期数据

识别缺失年份的日期数据

如果日期已经是datetime类型,可以通过访问.dt.year来判断年份是否缺失;如果日期还是字符串,先用to_datetime解析,无法解析的会变成NaT,也就是缺失时间。

import pandas as pd

# 构造示例数据,包含正常日期、缺失年份字符串和空值
data = {
    'id': [1, 2, 3, 4],
    'date_str': ['2021-03-12', '03-12', None, '2022-08-01']
}
df = pd.DataFrame(data)

# 解析日期,无法解析的设为NaT
df['date'] = pd.to_datetime(df['date_str'], errors='coerce')

# 筛选年份缺失或日期为空的数据
missing_year = df[df['date'].isna()]
print(missing_year)

清理包含缺失年份的记录

最常见的做法是直接丢弃这些无效行,或者把缺失日期的行单独导出以便追溯。使用dropna可以基于日期列删除空值。

# 删除日期解析后为NaT的行
clean_df = df.dropna(subset=['date'])

# 重置索引
clean_df = clean_df.reset_index(drop=True)
print(clean_df)

补充默认年份

有时业务上允许给缺失年份补一个默认年,比如统一补为1900年,这时可以用掩码赋值。

# 将缺失日期补为1900-01-01
df.loc[df['date'].isna(), 'date'] = pd.Timestamp('1900-01-01')
print(df)

使用布尔索引提升效率

面对大体量数据,应避免逐行判断。Pandas的向量化操作配合isna、notna以及dt访问器,能在单次扫描中完成筛选。

方法作用
isna()标记缺失值,返回布尔序列
notna()标记非缺失值
dt.year提取日期中的年份信息

完整处理示例

下面把解析、筛选与清理串起来,形成可复用的小函数。

def clean_date_column(frame, col_name):
    # 解析日期列
    frame['parsed_date'] = pd.to_datetime(frame[col_name], errors='coerce')
    # 返回清理后的数据和问题数据
    bad = frame[frame['parsed_date'].isna()]
    good = frame[frame['parsed_date'].notna()].copy()
    good = good.drop(columns=[col_name])
    good = good.rename(columns={'parsed_date': col_name})
    return good, bad

good_df, bad_df = clean_date_column(df, 'date_str')
print('有效数据:')
print(good_df)
print('异常数据:')
print(bad_df)

通过上述方式,我们可以用简洁且高效的代码完成Pandas中缺失年份日期数据的筛选与清理,保证后续分析的准确性。

Pandas日期数据处理缺失值清理修改时间:2026-07-26 07:57:17

免责声明:​ 已尽一切努力确保本网站所含信息的准确性。网站内容多为原创整理与精心编撰,观点力求客观中立。本站旨在免费分享,内容仅供个人学习、研究或参考使用。若引用了第三方作品,版权归原作者所有。如内容涉及您的权益,请联系我们处理。
内容垂直聚焦
专注技术核心技术栏目,确保每篇文章深度聚焦于实用技能。从代码技巧到架构设计,为用户提供无干扰的纯技术知识沉淀,精准满足专业提升需求。
知识结构清晰
覆盖从开发到部署的全链路。AI、前端、编程、数据库、服务器、建站、系统层层递进,构建清晰学习路径,帮助用户系统化掌握开发与运维所需的核心技术。
深度技术解析
拒绝泛泛而谈,深入技术细节与实践难点。无论是数据库优化还是服务器配置,均结合真实场景与代码示例进行剖析,致力于提供可直接应用于工作的解决方案。
专业领域覆盖
精准对应开发生命周期。从前端界面到后端编程,从数据库操作到服务器运维,形成完整闭环,一站式满足全栈工程师和运维人员的技术需求。
即学即用高效
内容强调实操性,步骤清晰、代码完整。用户可根据教程直接复现和应用于自身项目,显著缩短从学习到实践的距离,快速解决开发中的具体问题。
持续更新保障
专注既定技术方向进行长期、稳定的内容输出。确保各栏目技术文章持续更新迭代,紧跟主流技术发展趋势,为用户提供经久不衰的学习价值。