谷歌的爬虫是怎么爬取到那些孤立的网站的

[syahd]

我建了两个网站，没有任何被任何博客添加友链，没有在任何网站上留下过 url ，但是我都在这两个服务器里的 access.log 里看到了谷歌爬虫（虽然我设置了 robots.txt 不让爬取）。难不成是靠遍历 ip 地址吗？

[xzem]

比如说 chrome

[DesignerSkyline]

Google chrome 的安全检测服务可能会导致这个现象

[yankebupt]

爬的时候不遵循 robots.txt 的也有可能是伪造成谷歌爬虫的其他爬虫，比如安全机构

[yushiro]

网站有域名，根据域名注册商的列表爬。

[syahd]

@DesignerSkyline 什么意思？

[syahd]

@yushiro 这个列表域名注册商可以随便就给别人吗？

[DesignerSkyline]

@whwq2012 safebrowsing probes

[yushiro]

@whwq2012 你注册域名的时候是不是要查询域名是否被注册？ 这都是公开的

[syahd]

@yushiro 虽然是这样的，但是也不会给整个数据库吧

[julyclyde]

@whwq2012 跟给数据库有啥区别？让它挨个试还影响注册商性能呢，比如直接给数据库

[flynaj]

看 ip 地址，如果不是 google 的服务器就是伪造的，可能是扫描