Python whoosh 如何优化加速

2020-09-04 11:32:13 +08:00
 lixuda

第一次使用 whoosh 数据量 300 万条,索引后 1.5G 文件

根据文档查询,时间经常需要 7 秒以上,问问大神如何加速优化下?感谢

    ix = open_dir("indexdir")
    with ix.searcher() as searcher:
        myquery = Term("subject", "关键词")
        results = searcher.search(myquery,limit=10)
        for result1 in results:
            print(dict(result1))
        
3280 次点击
所在节点    Python
22 条回复
nonduality
2020-09-10 14:04:03 +08:00
经过初步测试,改用 Xapian 做后端,比用 Whoosh 做后端快 30 到 60 倍。从中也可以看到,尽管 Haystack 框架看起来很重,但其实不是性能瓶颈。
lixuda
2020-09-10 16:00:17 +08:00
@nonduality 关键是 Xapian 性能比 whoosh 好,whoosh 毕竟是纯 py

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/704151

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX