关于 pandas 的 apply 性能的一些疑惑

2022-09-28 16:10:41 +08:00
 zh584728

现在有一个 dataframe, 其中的几列需要单独处理

方案 1 是:


    df['foo1'] = df['foo1'].apply(lambda x: func1(x))
    df['foo2'] = df['foo2'].apply(lambda x: func2(x))
    df['foo3'] = df['foo3'].apply(lambda x: func3(x))
    ...

方案 2 是:

    def pipeline(ser):
        ser = (ser.pipe(func1)
            .pipe(func2)
            .pipe(func3))
    
    df = df.apply(lambda x: pipeline(x), axis=1)

在我感觉上是方案 2应该是比方案 1要快的,但是实际运行下来发现方案 2时间更长...

难道是我理解错了吗,按列处理会更快,即使是使用了 apply

2085 次点击
所在节点    Python
4 条回复
cyberpoint
2022-09-28 16:24:55 +08:00
不理解
Renormalization
2022-09-28 16:47:16 +08:00
pandas 按列处理肯定是最快的。<<Python for Finance>>书上的原话是"Working with the columns (Series objects) directly is the fastest approach"。另一句是"The slowest option is to use the apply() method row-by-row; this is like looping on the Python level over all rows".
ipwx
2022-09-28 16:49:12 +08:00
Pandas 是按列存储的。
zh584728
2022-09-28 17:01:58 +08:00
@Renormalization 是的 我已经试验出来了,一开始以为 apply 的少的会快一些

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/883577

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX