从多个外部数据源抓取同类数据,如何做数据间的去重?

2015-01-13 20:15:03 +08:00
 onlyice

现在在做的一个系统,会从多个外部网站抓取同类的节目数据,并将数据存在 MySQL 中。

但是这些不同的外部网站可能有相同的节目(比如标题、简介和音频都是相同/相似的),这种情况下需要做去重。想根据标题的字符串相似度来判断是否重复,并且需要能方便地查询到与一个节目所重复的其他节目。

那么问题来了,被认定为相似的两个节目,应该用什么数据结构保存下来?如果用关系型数据库,做一张两两相关的表,那表会很大,似乎不是理想的做法。

请问 V2 上的大中小牛们,业界有什么思想/框架/工具可以用来做这个事情?

2570 次点击
所在节点    问与答
2 条回复
laoyuan
2015-01-13 20:40:14 +08:00
加个字段unid,认为相同的条目,随便取其中一个的主键作为unid
halfcrazy
2015-01-13 21:16:37 +08:00
bloomfilter

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/161863

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX