推荐一个适合存放海量小文件的文件系统?

2014-08-13 11:47:25 +08:00
 hustlzp
帮一个朋友写爬虫爬东西。

数据库和文件系统中都要存。

单个文件都很小,但数量有接近70-80万,总大小有20多G。

放在服务器爬了5天,爬完了,发现很多数据库中有的条目,在文件系统中并不存在。

找原因才发现是inode用完了,TAT。Google后发现,ext3好像默认16K分配一个inode,挂载的磁盘是40G(ext3),所以最大可用的inode大概是2600000左右个。但关键在于文件一般都小于16K,所以把inode耗完了...

目前有一种解决方法是格式化EXT3,格式化的同时指定每4K分配一个inode,这样就把最大可用的inode数量扩大到4倍。

但往长远看,感觉EXT3还是不太适合这种场景,所以求推荐一种适合海量存储小文件的文件系统。

谢谢。
14566 次点击
所在节点    程序员
22 条回复
haoba
2014-08-14 17:33:33 +08:00
fastDFS可以啊。
faywong8888
2017-05-01 22:38:42 +08:00
@bigtan seaweedfs 挺好的,我 Like it

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/127596

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX