Python 如何获取网页下滑分类的所有链接地址

2022-01-22 21:54:49 +08:00
 ling516

https://opensea.io/0x88f9782286b8fe9c03a7e3ddae3a006826fc1ac8?search[sortBy]=LAST_TRANSFER_DATE&search[resultModel]=ASSETS&search[query]=ccc 这个网站 想要根据关键词搜索到所有图片链接 但是这个是下拉模式 下拉才会显示后面的图片 每次页面只显示 27 个链接 实际搜索出来有 100 多个 如何获取搜索结果的所有链接

905 次点击
所在节点    前端开发
3 条回复
christopheredwar
2022-01-22 23:08:01 +08:00
我看刑
Telegram
2022-01-23 12:49:41 +08:00
@christopheredwar #1 国外的,不刑。

F12 ,往下拉,看请求。
VagabondH
2022-01-27 17:29:47 +08:00
1. 用 selenium 库,启一个无头浏览器;
2. 判断滚动条是否可往下滚动,可以往下滚动的时候利用脚本改变滚动条高度触发加载;
3. 不能往下滚动隔一段时间间隔之后,断言为搜索完成,返回所有链接。

或者也可以直接伪造请求头,直接请求列表接口拿数据拼出来链接

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/829985

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX