进程池 ProcessPoolExecutor 如果一直不释放,会有什么弊端?

2018-08-29 16:56:16 +08:00
 Morriaty

场景是使用 tornado 写了一个服务,涉及到一些耗 cpu 的计算,使用了concurrent.futures.ProcessPoolExecutor

那么最佳实践应该是每次请求时初始化一个进程池,还是保持一个全局的进程池?

class MyHandler(BaseHandler):
    @coroutine
    def post(self, *args, **kwargs):
        ...
        with ProcessPoolExecutor() as process_pool:
            fs = [process_pool.submit(job) for job in jobs]
        ...

还是这样?

class MyHandler(BaseHandler):
    process_pool = ProcessPoolExecutor()

    @coroutine
    def post(self, *args, **kwargs):
        ...
        fs = [self.process_pool.submit(job) for job in jobs]
        ...
4543 次点击
所在节点    Python
4 条回复
sujin190
2018-08-29 17:45:44 +08:00
一般来说每个 ProcessPoolExecutor 默认都会创建和 cpu 核心数相同的进程来执行所有任务,如果你想复用这个进程而不是每次都创建,那么就应该用全局的

其实每次创建进程的开销应该还是挺大的,而且进程启动时在第一次添加任务的时候,所有一个全局进程持也没什么影响
ipwx
2018-08-29 20:08:27 +08:00
应该用全局的
kunluanbudang
2018-08-29 20:16:11 +08:00
ProcessPool 应该全局共享
codingKingKong
2018-08-29 20:18:04 +08:00
全局的, 不过我是 java... 线程池的实现里会有空闲时保持少量线程, 忙时再创建的特性, 以减少闲时资源占用.

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/484307

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX