• 请不要在回答技术问题时复制粘贴 AI 生成的内容
NobodyIsMe
V2EX  ›  程序员

Selenium + Chromedriver 抓取时,如何动态更改 header 头 / proxy 呢?

  •  
  •   NobodyIsMe · Sep 13, 2018 · 9046 views
    This topic created in 2812 days ago, the information mentioned may be changed or developed.

    最近需要用到 Selenium + Chromedriver 去抓取, 伪代码如下:

    from selenium import webdriver
    
    url = "http://demo.testfire.net"
    chrome_options = webdriver.ChromeOptions()
    chrome_options.add_argument('--headless')
    chrome_options.add_argument('--disable-gpu')
    chrome_options.add_argument('--http_proxy=118.18.188.188')
    
    driver = webdriver.Chrome(chrome_options=chrome_options,executable_path='/Users/xxxx/driver/chromedriver')
    
    driver.get('http://demo.testfire.net')
    
    

    但是遇到一个非常严重的问题:

    header 头 只能够在创建 driver 时传入,不知如何在创建 driver 后进行动态修改? 否则的话我每请求一次就得把 driver.quit 掉(每次请求都得动态修改下 user-agent / proxy,防止被 block), 相当于每次都要重启下浏览器,这样子极其的耗费资源。

    在网上搜索了许久,一直没有好的解决方案,不知道 V2 上哪位大神有比较好的解决方案呢?叩谢!!

    8 replies    2018-09-14 14:47:02 +08:00
    DonaidTrump
        1
    DonaidTrump  
       Sep 13, 2018 via iPhone
    试试 htmlunit
    NobodyIsMe
        2
    NobodyIsMe  
    OP
       Sep 13, 2018
    @tulongtou 这个好像不太适合我目前的需求哈
    SP00F
        3
    SP00F  
       Sep 13, 2018
    动态 adsl
    NobodyIsMe
        5
    NobodyIsMe  
    OP
       Sep 14, 2018
    @kran 这 link 点进去就自动 302 到 bing 首页去了, 能否给几个关键词 或者正确的 link 哈,谢谢
    NobodyIsMe
        6
    NobodyIsMe  
    OP
       Sep 14, 2018
    @SP00F adsl 也只是解决代理而已,依旧无法解决动态修改 header 头哈。
    NobodyIsMe
        8
    NobodyIsMe  
    OP
       Sep 14, 2018
    @kran 这个貌似可行。ff 支持动态设置。 感谢哈
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1229 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 23:36 · PVG 07:36 · LAX 16:36 · JFK 19:36
    ♥ Do have faith in what you're doing.