Selenium + Chromedriver 抓取时,如何动态更改 header 头 / proxy 呢?

2018-09-13 20:15:17 +08:00
 LinJunzhu

最近需要用到 Selenium + Chromedriver 去抓取, 伪代码如下:

from selenium import webdriver

url = "http://demo.testfire.net"
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
chrome_options.add_argument('--http_proxy=118.18.188.188')

driver = webdriver.Chrome(chrome_options=chrome_options,executable_path='/Users/xxxx/driver/chromedriver')

driver.get('http://demo.testfire.net')

但是遇到一个非常严重的问题:

header 头 只能够在创建 driver 时传入,不知如何在创建 driver 后进行动态修改? 否则的话我每请求一次就得把 driver.quit 掉(每次请求都得动态修改下 user-agent / proxy,防止被 block), 相当于每次都要重启下浏览器,这样子极其的耗费资源。

在网上搜索了许久,一直没有好的解决方案,不知道 V2 上哪位大神有比较好的解决方案呢?叩谢!!

8480 次点击
所在节点    程序员
8 条回复
tulongtou
2018-09-13 20:20:23 +08:00
试试 htmlunit
LinJunzhu
2018-09-13 23:25:13 +08:00
@tulongtou 这个好像不太适合我目前的需求哈
SP00F
2018-09-13 23:53:19 +08:00
动态 adsl
kran
2018-09-14 00:43:04 +08:00
LinJunzhu
2018-09-14 09:39:45 +08:00
@kran 这 link 点进去就自动 302 到 bing 首页去了, 能否给几个关键词 或者正确的 link 哈,谢谢
LinJunzhu
2018-09-14 09:40:14 +08:00
@SP00F adsl 也只是解决代理而已,依旧无法解决动态修改 header 头哈。
kran
2018-09-14 11:34:45 +08:00
LinJunzhu
2018-09-14 14:47:02 +08:00
@kran 这个貌似可行。ff 支持动态设置。 感谢哈

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/489094

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX