sqlite3 干 2kw 数据 性能如何

2015-04-09 21:00:30 +08:00
 lianghui

现在有个数据仓库大概10亿数据,数据分析筛选后大概2kw数据,曾经干过100w的sqlite3内存模式查了四个group by用时总共1分钟左右。如果是2kw数据性能如何,请教下。

9211 次点击
所在节点    程序员
29 条回复
usedname
2015-04-09 21:05:11 +08:00
zhao si
Septembers
2015-04-09 21:06:38 +08:00
建议用PgSQL
RangerWolf
2015-04-09 21:08:04 +08:00
no zuo no die ?
msg7086
2015-04-09 21:16:07 +08:00
算不算年度最佳笑话?

用一下pg/my又不麻烦……
clino
2015-04-09 22:16:51 +08:00
试一下不就知道了,造这么大的数据出来测试一下嘛
其实sqlite性能挺不错的,当然并发高肯定不行
Septembers
2015-04-09 22:18:47 +08:00
@msg7086 虽然SQLite设计达到了2T(README上是这么说的)但是SQLite的实现远远达不到这种能力
liuhaotian
2015-04-09 22:20:38 +08:00
作死
int64ago
2015-04-09 22:30:47 +08:00
一个嵌入式用的数据库你确定你要这么做?
chenjf2k
2015-04-09 22:30:54 +08:00
我也想知道答案。

我的预想是应该在1kw下应该可以承受。只要合理索引,不要全表扫描。

Sqlite有个好处:不用时不占内存,不像SQL Server或其他库,一装载内存就占用很多。
em70
2015-04-09 22:37:17 +08:00
跑在SSD上应该不至于死
kslr
2015-04-09 22:37:21 +08:00
这点内存换来的可不是一点方便
lianghui
2015-04-09 23:03:49 +08:00
@kslr @clino @em70 @chenjf2k 亲测,2kw数据塞内存,一个group by 加索引2秒搞定。可以达到数据报表生成要求,一次性数据6字段大概耗费4g内存。
no13bus
2015-04-09 23:19:36 +08:00
leveldb
zhujinliang
2015-04-09 23:58:02 +08:00
simplecd好像用的sqlite,印象中作者写过文章讨论性能
wolfan
2015-04-10 00:05:42 +08:00
小身板扛大旗,作!作!
Earthman
2015-04-10 00:28:03 +08:00
@zhujinliang 改mongodb了
NeoAtlantis
2015-04-10 05:15:26 +08:00
那啥,上次酒店什么的那个数据就是2kw条。
当时好象是在虚拟机里装微软的SQL Server导出的。。。
xiaogui
2015-04-10 05:23:04 +08:00
四个group by...
zspsky
2015-04-10 06:55:44 +08:00
太大的数据不要用.就把它当作access处理吧。access能处理的sqlite的也可以。
zspsky
2015-04-10 06:59:01 +08:00
sqlite文件一大。真的是要哭死。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/182668

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX