探讨大量数据下某个值是否存在的问题,大佬们指教一下

2021 年 12 月 16 日
 xrzxrzxrz

我们现在有这么个需求,允许运营上传一批用户 ID (可能会有很多个,最大值可以到千万级),然后服务端需要在请求的时候确定这次 id 是否在一批用户 ID 中。其实就是面试很常见的,怎么在一堆值中确定某个值是否存在。

我们这边目前的打算是通过 redis + bloom filter 的形式去判定该 ID 是否命中(跟产品讨论过,允许一定的误差),但是个人感觉这个方案思路有点常规,或者说有点简单。不知道大佬们是否有其他的思路。指教下一些其他的路子~

2674 次点击
所在节点    程序员
13 条回复
fishCatcher
2021 年 12 月 17 日
最大千万级,直接放内存哈希表就行了
foam
2021 年 12 月 17 日
布隆过滤器+1.
蹲一波别的想法
ximenmenglong
2021 年 12 月 17 日
https://nullprogram.com/blog/2014/09/18/
这个实例挺符合你的需求
raycool
2021 年 12 月 17 日
这样应该能满足要求吧。
这个思路很常规吗。
monkeyWie
2021 年 12 月 17 日
id 是整数型的直接用 bitmap 就行吧
xrzxrzxrz
2021 年 12 月 17 日
@fishCatcher 主要是考虑内存成本问题,因为理论上允许用户上传很多批用户 ID ,这样会用到太多内存
xrzxrzxrz
2021 年 12 月 17 日
@monkeyWie 额 不是纯数字。。会有 md5 值
xrzxrzxrz
2021 年 12 月 17 日
@ximenmenglong 我看看哈
xrzxrzxrz
2021 年 12 月 17 日
@raycool 应该是能满足的 因为当时看到这个需求的时候,第一时间想到的就是这个方案,所以觉得太常规,想看看有没有其他的思路,可能是我认识不够
a8w8608r5xUq1y75
2021 年 12 月 17 日
hyperloglog
dqzcwxb
2021 年 12 月 17 日
试试布谷鸟过滤 Cuckoo Filter
git00ll
2021 年 12 月 17 日
见张表,加个索引。一亿数据都没关系
Rocketer
2021 年 12 月 18 日
现在都是拿空间换时间,这种需求只要不是大到离谱的数据量都可以放内存里用 HashSet 实现。内存才多少钱,O(1)的复杂度不香吗?

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/822711

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX