爬图片下载的都是同一张假图片,在浏览器直接打开图片地址显示的也不是原图

2018-08-29 20:08:31 +08:00
 Langjan
获取到 http://www.zhuoku.com 网站的图片地址,下载回来的都是同一张假图片,在浏览器直接打开图片地址显示的也不是原图。请教各位大佬这个问题如何解决。
3168 次点击
所在节点    Python
8 条回复
xiaocsl
2018-08-29 21:08:59 +08:00
如果用的不是同一套 cookies 的话,那就是封 IP 了,上代理池吧.
delectate
2018-08-29 21:43:41 +08:00
通常就是 cookies、refer url、IP,逐个排查。
einverne
2018-08-30 08:37:20 +08:00
大概是因为给识别出机器人网站给你返回了错误的图片,换个 IP 试试
simoncc
2018-08-30 09:11:44 +08:00
应该是缺了 refer 头,在 headers 中加上。
imdong
2018-08-30 09:12:01 +08:00
加上来路就好了,常见的图片防盗链。
Referer
Langjan
2018-08-30 11:32:10 +08:00
图片地址 http://bizhi.zhuoku.com/2018/04/25/Bugatti/2019-Bugatti-Chiron-Sport-10.jpg
在这个下 http://www.zhuoku.com/zhuomianbizhi/jing-car/20180425160320(10).htm
htm 可以直接访问不用加 referer,在该页面显示图片正常,图片右击新标签页打开也正常
(浏览器打开正常应该不是封 IP 吧)

代码如下返回了错误的图片
import urllib.request
import requests
import re

headers = {
'Host':'www.zhuoku.com',
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
'Referer':'http://www.zhuoku.com/zhuomianbizhi/jing-car/20180425160320(10).htm'
'Cookie':'cck_lasttime=1535598582789; cck_count=0; bdshare_firstime=1535598583191'
}
url = 'http://www.zhuoku.com/zhuomianbizhi/jing-car/20180425160320(10).htm'
req = requests.get(url, headers = headers)
req.encoding = 'GBK'
html = req.text
picurl = re.findall(r'<img id="imageview" src="(.*?)"', html)[0]
picname = re.findall(r'thumbs/tn_(.*?)"', html)[0]
path = 'F:\\PyDowns\\zhuoku\\' + picname
urllib.request.urlretrieve(picurl, path)
Langjan
2018-08-30 11:41:29 +08:00
打开 20180425160320(10)
request headers 为
GET 20180425160320(10) HTTP/1.1
Host: com
Proxy-Connection: keep-alive
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8
Accept-Encoding: gzip, deflate
Accept-Language: en-US,en;q=0.9,zh-CN;q=0.8,zh;q=0.7,zh-TW;q=0.6

其中图片的 request headers 为
GET 2019-Bugatti-Chiron-Sport-10 HTTP/1.1
Host: com
Proxy-Connection: keep-alive
User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36
Accept: image/webp,image/apng,image/*,*/*;q=0.8
Referer: 20180425160320(10)
Accept-Encoding: gzip, deflate
Accept-Language: en-US,en;q=0.9,zh-CN;q=0.8,zh;q=0.7,zh-TW;q=0.6
(由于论坛回复机制删除了 URL )
Langjan
2018-08-30 14:22:19 +08:00
urllib.request.urlretrieve() 函数不能提交 header 信息?
下载图片时(等同直接访问图片地址)就会触发防盗,返回错误的图片

这个方法也是不行
content = requests.get(picurl, headers =headers).content
with open('F:\\PyDowns\\zhuoku\\demo.jpg', 'wb') as fp:
fp.write(content)

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/484370

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX