Colt 贴出了 CDN 流量。煎蛋真的经不起你爬

2017-10-31 15:09:28 +08:00
 congeec

链接: http://jandan.net/pic/page-297#comment-3600673
可以看出一个 ip 能占好多资源

讲道理,咱得有点良心对吧。人家煎蛋没咋盈利,真要倒了大家摸鱼都不自在。而且 tumblr 上的妹子多多了去了,经得起你玩,而且好多煎蛋上的妹子图都转自 tumblr。你要是一裤裆火憋不住的话,github 上还有硬盘女神

12024 次点击
所在节点    程序员
52 条回复
congeec
2017-10-31 23:01:32 +08:00
@banwagong 很多人都会吧。貌似去年 V2EX 流行反代,GayHub 上一大堆反代 Google 的教程和代码
soulmine
2017-10-31 23:39:58 +08:00
@xenme 没意义啊 就算有 zip 包 你还准备解压 然后在电脑上一个个看完么 本来就是个吐槽的地方
realpg
2017-11-01 08:41:42 +08:00
@zpf124 #7 很多入门写爬虫的都不会写兼容 gzip 的 request
annielong
2017-11-01 10:03:44 +08:00
爬虫咋占那么多资源,难道来个循环抓取吗,明显不正常
xxdd
2017-11-01 11:01:18 +08:00
羡慕站长 可以积累丰富的反爬经验···
yu099
2017-11-01 11:29:37 +08:00
@annielong 可能抓评论?
litter123
2017-11-01 12:15:28 +08:00
@wisper 2333,确实不应该恶意爬虫
@WordTian emmm....高并发确实很吃 CPU,但是前提是页面是动态的,煎蛋访问量这么大,早就全静态化了。

wordpress 很庞大,体积很臃肿,效率比较低,但是,静态化以后资源利用几乎降为 0 (除了带宽资源)

投放的广告虽然少,但是可是一提的,站长日入 500 以上(猜测,不对勿喷)
WordTian
2017-11-01 12:40:57 +08:00
@litter123
但是你没算支出啊

技术:ECS 服务器,RDS 数据库,图床服务器,CDN 服务,Memcache 缓存,网络安全服务及日常维护。
人员:煎蛋办公室全职员工工资及每月几十位兼职作者的稿费。

当然,现在煎蛋办公室都没了,人员支出估计少了很多

关于流量,昨天 sein 的原话:
"被恶意爬站还被分享爬虫,导致煎蛋这几天高峰访问次数高达 1500 万次 /天
如果是真实流量当然是好事,但近 9 成是爬虫"
litter123
2017-11-01 12:46:48 +08:00
@WordTian emmm......如果是这样,确实支出很多。

不过我觉得你说的服务器,除了 CDN 1T 流量最多 300 元左右,其他都能在一台服务器上搞定,一台服务器价格大概 600 月付吧,就算买个 3、4 台组集群(逃
q573709499
2017-11-02 06:26:57 +08:00
@litter123 站长已经多次表示这是他业余时间维护的小站,真日入 500 如何? 9 成流量来自爬虫,你说说怎么盈利,虽然蛋友发的妹子图,无聊图没有版权,好歹也是爱煎蛋的人,而不是我转载回去后声称都是我找的,我爬虫技术好棒棒。坛子里面那个收集妹子图做站点的,删除是删除了,还在他 qq 群里面声称开源爬虫代码,有能力就直接和大站玩啦
Anhedonia
2017-11-03 13:02:18 +08:00
@mdzz
牵出来看一下
mdzz
2017-11-03 14:53:13 +08:00
@Anhedonia 圈我也没用啊,这些爬虫都不是我写的,也不是我分享的,我是直接分享爬取后的数据以免大家再次爬取

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/402279

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX