Python 2.7 Gunicorn + Flask，有大量的第三方服务 http 请求， requests 库阻塞导致出现性能瓶颈

[woostundy]

该怎么优化呢？异步 http 客户端的库哪个比较靠谱？

[terrawu]

@gouchaoer 大兄弟，gevent 的第一准则，不要使用 c socket 的库。

[aisk]

@woostundy 单独打 monkey patch 再用 gunicorn 启动是无效的，因为 gunicorn 要自己先启动，这个时候 socket 和 thread 模块都已经加载进来了。然后执行你的代码时，才会进行 monkey patch，这个时候已经来不及了。解决了问题就好。

[aisk]

@gouchaoer 我上面说了，直接用 C 来调用 socket 的都不能 patch。不过 redis 那个库网络部分就是 Python 实现的，Mysql 的话现在的方案都是用 pymysql 这个库，和 C 的那个接口一致，所以都没有问题。

[aisk]

@gouchaoer 就是这么神通广大，服不服？

[terrawu]

实在要用 c socket 的库也有一些奇怪的方案， 比如这个 https://github.com/douban/greenify

[terrawu]

最后多说一句，讨论问题谦虚一些为好，否则有人忍不住（比如我）就会跳出来开嘲讽了。

[aisk]

@woostundy 我怀疑是不是你没有开 keep alive 导致的？ requests 并不会默认帮你开启 keep alive，需要先创建一个 Session 对象，后续都用这个 Session 对象发送请求，才会 keep alive

[1iuh]

@aisk 你说的没错 gevent + requests 确实可以工作。 但是 @terrawu 比你更正确。
gevent + requests 在低并发的情况下确实是异步的，但是在高并发的情况下会阻塞。
不信你可以自己测试一下。

[ljcarsenal]

node go

[TJT]

增加 worker，多线程，分布式。

[gouchaoer]

@aisk requests 只是 httpclient 客户端，不同请求还能公用同一个 requests 的 tcp 连接？这是一个 tcp 连接池的问题，有些内部 tcp 调用是 http 方式的，为了优化使用了 tcp 连接池（也就是 keep-alive ）。。。另外 LZ 的需求是典型的微服务后台都会遇到的问题，go、java 甚至 php 都有比较成熟的方案了，你一上来就提出一个似乎可行的方案，但是这个问题很难相信就是 hook 一下底层 io 库就能健壮的把现有的同步代码改成协程版本的

[aisk]

@gouchaoer 搜索 http keep-alive，有真相

[aisk]

@gouchaoer 你信不信关我屁事？

[sunwei0325]

没有人推荐用 grequests 么?

[ChangHaoWei]

没有人推荐用 celery 吗？ 还有就是 socket.io 吗？ django 和 flask 都有 socket.io 的插件啊

[ToughGuy]

哈哈哈哈， 看了楼主 /t/325328 里面问 tornado+flask+requests 阻塞解决方案， 一楼喊换成 gunicorn+flask， 然后就有了现在这个帖子。

哈哈，看老帖子的 1,3 楼和这个的 1,2 楼笑死我了。

楼主: 黑人问号...

期待楼主问题得到妥善解决。

[ChangHaoWei]

@terrawu 大兄弟，你的观点我认同，因为我同样踩过这个坑。不过我不太懂为什么会出现这种情况。

还有就是问一下你的解决方案有开源库采用的吗？请给个链接。

谢谢。

[ChangHaoWei]

@ToughGuy 我要笑出腹肌了😄

[gouchaoer]

@aisk 问题是你让人在 flask 的 requests 里加上 keep-alive 这很蠢啊，说明你后台的很多基础概念都没搞清楚，狂妄没什么比起谦虚的类型，我个人反而喜欢那种自信 /自大 /狂妄的人，可是你很蠢啊

[woostundy]

多谢各位帮忙，我觉得有必要重新描述一下问题：
现在有服务 A 和服务 B，服务 A 有一部分数据库读写操作，每次都会通过 requests 访问服务 B （每次都只会访问一次，B 服务性能完全足够）
服务 A 的结构是 Flask + Gunicorn + Gevent，当 A 服务器 QPS 到 50 时，数据库访问没有压力，但会出现 requests 到服务 B 的速度变慢甚至超时。

不是 A 一次请求内多次请求 B 服务，而是每次 A 都会请求一次 B，所以设置 session 共享 tcp 连接（ keep-alive ）应该是无效的。