使用 pandas GroupBy 获取每个组的统计数据(例如计数、平均值等)?

Get statistics for each group (such as count, mean, etc) using pandas GroupBy?

提问人:Roman 提问时间:10/15/2013 最后编辑:cottontailRoman 更新时间:6/18/2023 访问量:1610700

问:

我有一个数据帧,我使用其中的几列来:dfgroupby

df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()

通过上述方式,我几乎得到了我需要的表(数据帧)。缺少的是包含每个组中的行数的附加列。换句话说,我的意思是,但我也想知道有多少人被用来获得这些手段。例如,在第一组中有 8 个值,在第二组中有 10 个值,依此类推。

简而言之:如何获取数据帧的分组统计信息?

熊猫 数据帧 分组依据 统计学

评论


答:

629赞 Zeugma 10/15/2013 #1

在对象上,该函数可以采用一个列表来同时应用多个聚合方法。这应该为您提供所需的结果:groupbyagg

df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).agg(['mean', 'count'])

评论

66赞 Jaan 7/22/2015
这将创建四个计数列,但如何只获得一个?(这个问题要求“增加一列”,这也是我想要的。
1469赞 Pedro M Duarte 9/27/2015 #2

快速回答:

获取每组行计数的最简单方法是调用 ,这将返回 :.size()Series

df.groupby(['col1','col2']).size()


通常,您希望此结果为 (而不是 ),因此您可以执行以下操作:DataFrameSeries

df.groupby(['col1', 'col2']).size().reset_index(name='counts')


如果您想了解如何计算每个组的行计数和其他统计数据,请继续阅读下面的内容。


详细示例:

请考虑以下示例 DataFrame:

In [2]: df
Out[2]: 
  col1 col2  col3  col4  col5  col6
0    A    B  0.20 -0.61 -0.49  1.49
1    A    B -1.53 -1.01 -0.39  1.82
2    A    B -0.44  0.27  0.72  0.11
3    A    B  0.28 -1.32  0.38  0.18
4    C    D  0.12  0.59  0.81  0.66
5    C    D -0.13 -1.65 -1.64  0.50
6    C    D -1.42 -0.11 -0.18 -0.44
7    E    F -0.00  1.42 -0.26  1.17
8    E    F  0.91 -0.47  1.35 -0.34
9    G    H  1.48 -0.63 -1.14  0.17

首先,让我们用它来获取行计数:.size()

In [3]: df.groupby(['col1', 'col2']).size()
Out[3]: 
col1  col2
A     B       4
C     D       3
E     F       2
G     H       1
dtype: int64

然后,让我们用来获取行计数:.size().reset_index(name='counts')

In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')
Out[4]: 
  col1 col2  counts
0    A    B       4
1    C    D       3
2    E    F       2
3    G    H       1


包括更多统计数据的结果

当您要计算分组数据的统计数据时,它通常如下所示:

In [5]: (df
   ...: .groupby(['col1', 'col2'])
   ...: .agg({
   ...:     'col3': ['mean', 'count'], 
   ...:     'col4': ['median', 'min', 'count']
   ...: }))
Out[5]: 
            col4                  col3      
          median   min count      mean count
col1 col2                                   
A    B    -0.810 -1.32     4 -0.372500     4
C    D    -0.110 -1.65     3 -0.476667     3
E    F     0.475 -0.47     2  0.455000     2
G    H    -0.630 -0.63     1  1.480000     1

上面的结果有点烦人,因为嵌套的列标签,也因为行计数是按列计算的。

为了更好地控制输出,我通常将统计信息拆分为单独的聚合,然后使用 进行组合。它看起来像这样:join

In [6]: gb = df.groupby(['col1', 'col2'])
   ...: counts = gb.size().to_frame(name='counts')
   ...: (counts
   ...:  .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))
   ...:  .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))
   ...:  .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))
   ...:  .reset_index()
   ...: )
   ...: 
Out[6]: 
  col1 col2  counts  col3_mean  col4_median  col4_min
0    A    B       4  -0.372500       -0.810     -1.32
1    C    D       3  -0.476667       -0.110     -1.65
2    E    F       2   0.455000        0.475     -0.47
3    G    H       1   1.480000       -0.630     -0.63



脚注

用于生成测试数据的代码如下所示:

In [1]: import numpy as np
   ...: import pandas as pd 
   ...: 
   ...: keys = np.array([
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['C', 'D'],
   ...:         ['C', 'D'],
   ...:         ['C', 'D'],
   ...:         ['E', 'F'],
   ...:         ['E', 'F'],
   ...:         ['G', 'H'] 
   ...:         ])
   ...: 
   ...: df = pd.DataFrame(
   ...:     np.hstack([keys,np.random.randn(10,4).round(2)]), 
   ...:     columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']
   ...: )
   ...: 
   ...: df[['col3', 'col4', 'col5', 'col6']] = \
   ...:     df[['col3', 'col4', 'col5', 'col6']].astype(float)
   ...: 


免責聲明:

如果要聚合的某些列具有 null 值,则您确实希望将组行计数视为每列的独立聚合。否则,您可能会被误导,不知道实际使用了多少条记录来计算平均值之类的东西,因为 pandas 会在不告诉您的情况下删除平均值计算中的条目。NaN

12赞 Nimesh 11/27/2017 #3

我们可以通过使用 groupby 和 count 轻松做到这一点。但是,我们应该记住使用 reset_index()。

df[['col1','col2','col3','col4']].groupby(['col1','col2']).count().\
reset_index()
133赞 cs95 4/8/2019 #4

瑞士军刀:GroupBy.describe

返回每个组的 、 、 和其他有用的统计信息。countmeanstd

df.groupby(['A', 'B'])['C'].describe()

           count  mean   std   min   25%   50%   75%   max
A   B                                                     
bar one      1.0  0.40   NaN  0.40  0.40  0.40  0.40  0.40
    three    1.0  2.24   NaN  2.24  2.24  2.24  2.24  2.24
    two      1.0 -0.98   NaN -0.98 -0.98 -0.98 -0.98 -0.98
foo one      2.0  1.36  0.58  0.95  1.15  1.36  1.56  1.76
    three    1.0 -0.15   NaN -0.15 -0.15 -0.15 -0.15 -0.15
    two      2.0  1.42  0.63  0.98  1.20  1.42  1.65  1.87

要获取特定的统计数据,只需选择它们,

df.groupby(['A', 'B'])['C'].describe()[['count', 'mean']]

           count      mean
A   B                     
bar one      1.0  0.400157
    three    1.0  2.240893
    two      1.0 -0.977278
foo one      2.0  1.357070
    three    1.0 -0.151357
    two      2.0  1.423148

注意:如果您只需要计算 1 或 2 个统计数据,那么它可能是 更快地使用 GroupBy.agg 并仅计算这些列 您正在执行浪费的计算。

describe适用于多个列(更改为 - 或完全删除它 - 并查看会发生什么,结果是 MultiIndexed 列式数据帧)。['C']['C', 'D']

您还可以获得字符串数据的不同统计信息。下面是一个示例,

df2 = df.assign(D=list('aaabbccc')).sample(n=100, replace=True)

with pd.option_context('precision', 2):
    display(df2.groupby(['A', 'B'])
               .describe(include='all')
               .dropna(how='all', axis=1))

              C                                                   D                
          count  mean       std   min   25%   50%   75%   max count unique top freq
A   B                                                                              
bar one    14.0  0.40  5.76e-17  0.40  0.40  0.40  0.40  0.40    14      1   a   14
    three  14.0  2.24  4.61e-16  2.24  2.24  2.24  2.24  2.24    14      1   b   14
    two     9.0 -0.98  0.00e+00 -0.98 -0.98 -0.98 -0.98 -0.98     9      1   c    9
foo one    22.0  1.43  4.10e-01  0.95  0.95  1.76  1.76  1.76    22      2   a   13
    three  15.0 -0.15  0.00e+00 -0.15 -0.15 -0.15 -0.15 -0.15    15      1   c   15
    two    26.0  1.49  4.48e-01  0.98  0.98  1.87  1.87  1.87    26      2   b   15

有关详细信息,请参阅文档


熊猫 >= 1.1:DataFrame.value_counts

如果您只想捕获每个组的大小,这可以从 pandas 1.1 中获得,这会减少并且更快。GroupBy

df.value_counts(subset=['col1', 'col2'])

最小示例

# Setup
np.random.seed(0)
df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',
                          'foo', 'bar', 'foo', 'foo'],
                   'B' : ['one', 'one', 'two', 'three',
                          'two', 'two', 'one', 'three'],
                   'C' : np.random.randn(8),
                   'D' : np.random.randn(8)})

df.value_counts(['A', 'B']) 

A    B    
foo  two      2
     one      2
     three    1
bar  two      1
     three    1
     one      1
dtype: int64

其他统计分析工具

如果您在上面没有找到所需的内容,用户指南提供了受支持的静态分析、相关性和回归工具的完整列表。

4赞 Mahendra 4/11/2019 #5

创建一个组对象并调用方法,如下例所示:

grp = df.groupby(['col1',  'col2',  'col3']) 

grp.max() 
grp.mean() 
grp.describe() 
19赞 Jake Drew 11/13/2019 #6

若要获取多个统计信息,请折叠索引并保留列名:

df = df.groupby(['col1','col2']).agg(['mean', 'count'])
df.columns = [ ' '.join(str(i) for i in col) for col in df.columns]
df.reset_index(inplace=True)
df

生产:

**enter image description here**

6赞 Ichsan 2/8/2020 #7

请试试这个代码

new_column=df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).count()
df['count_it']=new_column
df

我认为该代码将添加一个名为“count it”的列,该列对每个组进行计数

3赞 Panwen Wang 4/30/2021 #8

如果你熟悉 tidyverse R 包,这里有一种在 python 中执行此操作的方法:

from datar.all import tibble, rnorm, f, group_by, summarise, mean, n, rep

df = tibble(
  col1=rep(['A', 'B'], 5), 
  col2=rep(['C', 'D'], each=5), 
  col3=rnorm(10), 
  col4=rnorm(10)
)
df >> group_by(f.col1, f.col2) >> summarise(
  count=n(),
  col3_mean=mean(f.col3), 
  col4_mean=mean(f.col4)
)
  col1 col2  n  mean_col3  mean_col4
0    A    C  3  -0.516402   0.468454
1    A    D  2  -0.248848   0.979655
2    B    C  2   0.545518  -0.966536
3    B    D  3  -0.349836  -0.915293
[Groups: ['col1'] (n=2)]

我是数据包的作者。如果您对使用它有任何疑问,请随时提交问题。

0赞 ali bakhtiari 1/6/2023 #9

另一种选择:

import pandas as pd
import numpy as np

df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',
                          'foo', 'bar', 'foo', 'foo'],
                   'B' : ['one', 'one', 'two', 'three',
                          'two', 'two', 'one', 'three'],
                   'C' : np.random.randn(8),
                   'D' : np.random.randn(8)})
df

    A   B       C           D
0   foo one   0.808197   2.057923
1   bar one   0.330835  -0.815545
2   foo two  -1.664960  -2.372025
3   bar three 0.034224   0.825633
4   foo two   1.131271  -0.984838
5   bar two   2.961694  -1.122788
6   foo one   -0.054695  0.503555
7   foo three 0.018052  -0.746912

pd.crosstab(df.A, df.B).stack().reset_index(name='count')

输出:

    A   B     count
0   bar one     1
1   bar three   1
2   bar two     1
3   foo one     2
4   foo three   1
5   foo two     2
0赞 cottontail 3/20/2023 #10

pivot_table带有特定的 Saggfunc

对于聚合统计信息的数据帧,也可以使用。它生成的表格与 Excel 数据透视表没有太大区别。基本思想是将要聚合为的列和石斑鱼列作为以及任何聚合器功能传入(所有允许的优化函数都是可以的)。pivot_tablevalues=index=aggfunc=groupby.agg

over 的一个优点是,对于多个列,它生成一个列,而为每个列创建一个列(除了一个列之外,所有列都是多余的)。pivot_tablegroupby.aggsizegroupby.aggsize

agg_df = df.pivot_table(
    values=['col3', 'col4', 'col5'], 
    index=['col1', 'col2'], 
    aggfunc=['size', 'mean', 'median']
).reset_index()
# flatten the MultiIndex column (should be omitted if MultiIndex is preferred)
agg_df.columns = [i if not j else f"{j}_{i}" for i,j in agg_df.columns]

res1

对自定义列名使用命名聚合

对于自定义列名称,请从一开始就使用命名聚合,而不是多个调用。rename

文档中:

为了支持特定于列的聚合并控制输出列名称,pandas 接受 GroupBy.agg() 中的特殊语法,称为“命名聚合”,其中

  • 关键字是输出列名称
  • 这些值是元组,其第一个元素是要选择的列,第二个元素是要应用于该列的聚合。熊猫提供熊猫。NamedAgg 命名元组,并带有字段 ['column', 'aggfunc'],以便更清楚地说明参数是什么。像往常一样,聚合可以是可调用对象,也可以是字符串别名。

例如,若要生成聚合数据帧,其中每个 和 都计算了其平均值和计数,可以使用以下代码。请注意,它将重命名列步骤作为 的一部分执行。col3col4col5groupby.agg

aggfuncs = {f'{c}_{f}': (c, f) for c in ['col3', 'col4', 'col5'] for f in ['mean', 'count']}
agg_df = df.groupby(['col1', 'col2'], as_index=False).agg(**aggfuncs)

res3

命名聚合的另一个用例是,如果每个列需要不同的聚合器函数。例如,如果自定义列名只需要 、 和 的 中位数 的均值,则可以使用以下代码来完成。col3col4mincol5

agg_df = df.groupby(['col1', 'col2'], as_index=False).agg(col3_mean=('col3', 'mean'), col4_median=('col4', 'median'), col5_min=('col5', 'min'))
# or equivalently,
agg_df = df.groupby(['col1', 'col2'], as_index=False).agg(**{'_'.join(p): p for p in [('col3', 'mean'), ('col4', 'median'), ('col5', 'min')]})

res2

0赞 rafine 6/18/2023 #11
df_group = (df.groupby(['city','gender'])[['age',"grade"]]
     .agg([('average','mean'),('freq','count')])
     .reset_index())

“城市”和“性别”是“组”列。

age 和 grade 是依赖列(我计算它们的平均值)。

平均列的名称将为平均值 计数列的名称为 FREQ

enter image description here