有没有公开授权的可以允许爬虫的网站

2022-10-01 12:45:53 +08:00
 ly879
1498 次点击
所在节点    问与答
6 条回复
Jojoy
2022-10-01 12:54:34 +08:00
换句话：有没有倒贴宽带钱给用户的网站。
0o0O0o0O0o
2022-10-01 12:59:28 +08:00
按照 robots.txt 来应该就可以
ly879
2022-10-01 13:00:38 +08:00
更新：网站根目录下有个 robots.txt 文件表明是否允许爬虫。
qianxaingmoli
2022-10-01 13:04:30 +08:00
新手入门案例都是豆瓣，豆瓣在反爬上比较友好一点
Chaidu
2022-10-01 13:15:58 +08:00
你用 Google 能搜索到的网站都是“公开授权的可以允许爬虫的网站”
kasusa
2022-10-01 20:59:50 +08:00
煎蛋网好多人都爬爬）

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/884192

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX