爬虫怎么动态解析不同网站的 html 结构呢

2017-08-12 10:37:15 +08:00
 SIFT2009
需要从不同的网站爬取数据，现在的做法不同的网站需要单独去写个解析类，想问一下 v 友，有可以动态解析的方法嘛。
2775 次点击
所在节点    问与答
3 条回复
insoxin
2017-08-12 11:09:04 +08:00
没有万能的规则
zeq
2017-08-12 12:14:37 +08:00
这看是抓去什么内容了

如果是文章的话，可以一些文章正文提取的包来做。

如果是不同结构的，或者需要更详细的内容，可以考虑一下 data highlighter。Google 的站长工具里面就有这样一个工具，帮助站长优化搜索结果，它需要人工标记若干个页面内的数据，然后 Google 能够根据你标记的数据解析出相同类型的页面

作为参考 @binux 在他的博客里分享了一种 data highlighter 的思路
NaughtyMonkey
2017-08-14 12:56:29 +08:00
肯定是不同的网站写不同的规则。不然你想上天不成

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/382376

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX