分组堆叠数据框是数据预处理阶段常见的格式,通常包含多个分组列和一个存储变量值的堆叠列,计算变量比率需要先按分组维度划分数据,再对同一分组内的变量值进行占比计算。下面先展示一个典型的分组堆叠数据框示例,帮助理解数据结构。
分组堆叠数据框的结构特征
分组堆叠数据框一般具备以下特点:存在至少两个分组维度列,比如类别、时间等;有一个列存储具体的变量标识,比如产品类型、指标名称;还有一个列存储对应的数值。例如下面的示例数据,记录了不同地区和年份下的三类产品的销售额:
import pandas as pd
# 构造分组堆叠数据框示例
data = {
'地区': ['华东', '华东', '华东', '华东', '华东', '华东', '华南', '华南', '华南', '华南', '华南', '华南'],
'年份': [2020, 2020, 2020, 2021, 2021, 2021, 2020, 2020, 2020, 2021, 2021, 2021],
'产品类型': ['A', 'B', 'C', 'A', 'B', 'C', 'A', 'B', 'C', 'A', 'B', 'C'],
'销售额': [100, 200, 150, 120, 220, 180, 90, 180, 130, 110, 210, 160]
}
df = pd.DataFrame(data)
print(df)
上述数据按地区和年份两个维度分组,每个分组下堆叠了三种产品类型的销售额数值,我们的目标就是计算每个产品类型的销售额占对应分组总销售额的比率。
基础变量比率计算方法
步骤1:按分组维度计算总数值
首先需要确定分组的维度,这里分组维度是地区和年份,使用groupby方法对这两个列进行分组,再对销售额列求和,得到每个分组的总销售额:
# 按地区和年份分组,计算每组总销售额 group_total = df.groupby(['地区', '年份'])['销售额'].sum().reset_index() group_total.columns = ['地区', '年份', '总销售额'] print(group_total)
步骤2:关联总数值并计算比率
将计算得到的总销售额合并回原数据框,再用单个产品的销售额除以总销售额,得到变量比率:
# 合并总销售额到原数据框 df_merged = pd.merge(df, group_total, on=['地区', '年份']) # 计算销售额占比比率 df_merged['销售额比率'] = df_merged['销售额'] / df_merged['总销售额'] print(df_merged)
高效优化的计算方法
如果数据量较大,多次合并操作会消耗较多内存,可以使用groupby的transform方法直接计算分组总数值,避免额外的合并步骤,提升计算效率:
# 使用transform直接计算分组总销售额,无需合并
df['总销售额'] = df.groupby(['地区', '年份'])['销售额'].transform('sum')
# 计算比率
df['销售额比率'] = df['销售额'] / df['总销售额']
print(df)
transform方法会将分组计算的结果按原数据框的索引对齐返回,直接生成和原数据框长度一致的序列,适合这类需要保留原数据结构的分组计算场景。
多变量堆叠场景的适配
如果堆叠数据框中包含多个数值变量,比如同时有销售额和销量两个数值列,需要分别计算两个变量的比率,可以批量处理数值列:
# 构造包含多个数值变量的分组堆叠数据框
data_multi = {
'地区': ['华东', '华东', '华东', '华东', '华东', '华东'],
'年份': [2020, 2020, 2020, 2021, 2021, 2021],
'产品类型': ['A', 'B', 'C', 'A', 'B', 'C'],
'销售额': [100, 200, 150, 120, 220, 180],
'销量': [50, 80, 60, 55, 90, 70]
}
df_multi = pd.DataFrame(data_multi)
# 定义需要计算比率的数值列
value_cols = ['销售额', '销量']
# 批量计算分组总和并计算比率
for col in value_cols:
df_multi[f'{col}比率'] = df_multi[col] / df_multi.groupby(['地区', '年份'])[col].transform('sum')
print(df_multi)
结果验证与注意事项
计算完成后可以验证每个分组下的比率之和是否为1,确保计算逻辑正确:
# 验证每个分组下销售额比率之和是否为1 ratio_sum = df.groupby(['地区', '年份'])['销售额比率'].sum() print(ratio_sum)
需要注意如果分组内存在数值为0的情况,计算比率时会出现除零错误,建议提前处理异常值,比如将0值替换为空值或者在计算时添加判断逻辑。另外如果堆叠的变量列包含大量唯一值,分组计算的效率会受分组数量影响,此时可以适当调整分组维度或者提前对数据进行过滤。