异步爬虫如何使用 https 代理?

2018-11-05 11:39:22 +08:00
 a65420321a
aiohttp 库直接使用 https 代理会报错,用 http 代理没有问题。
可是~爬虫抓取的网站需要 https,这个要怎么解决呢?
2459 次点击
所在节点    Python
2 条回复
sola97
2018-11-05 14:30:58 +08:00
用 http 代理可以爬 https 的内容的吧
enrolls
2018-11-06 00:01:09 +08:00
1. 忽略 ssl 验证 [doc]( https://docs.aiohttp.org/en/stable/client_reference.html?highlight=verify_ssl)
2. 代理协议使用 http/socks4/socks5

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/504558

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX