为啥有的网站同时设置 cloudflare 的 IUAM 跟 robots.txt,这两者不冲突吗?

2022-02-03 11:42:26 +08:00
 haoliang

在我看来 iuamPlease stand by, while we are checking your browser... 是对 client 做一些技术上的门槛限制以减轻 ddos, 我更觉得是其 webmaster 期望访问者必须是使用一般意义上的 browser 。

我的疑问是开启了 iuam 的网站期望被搜索引擎收录吗?搜索引擎在未拿到 robots.txt 之前怎样对待开启了 iuam 的网站?

2324 次点击
所在节点    Cloudflare
2 条回复
villivateur
2022-02-03 11:45:45 +08:00
可以单独对 robot.txt 关闭五秒盾,而且也可以主动向搜索引擎提交各个页面,还可以单独对搜索引擎的 IP 开放访问
westoy
2022-02-03 12:59:30 +08:00
有快照页是 IUAM 的么?

百度、谷歌、巨硬都是 CF 的投资人, 爬虫段没白名单才怪了......

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/831745

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX