由于项目需要,最近三天写了个小文件读取工具(TFS for Java )

2020-01-19 17:36:17 +08:00
 myliang

为什么要写这个?

项目需要,我开发了很多小项目需要存储很多的图片,pdf 小文件,之前通用的方法就是直接用系统的文件存储方式,这样方式对于一般的项目没有问题,但是当存储的文件多的时候就有些问题了(比如 linux 系统下目录下的文件数量时候一定的,当超过了出错了), 所以我想到了小文件存储系统,比如淘宝的 tfs, facebook 的文件系统等等,这些文件系统都是分布式的应对超大数据量的,部署都需要多台服务器,对小项目来说,直接用这些感觉有点大材小用了 所以我觉得还是自己随手写个简单易用的针对小项目的文件存储工具,方便整合到现有系统

原因说清楚了,直接上地址,欢迎大家拍砖,讨论过

https://github.com/myliang/tfs

2658 次点击
所在节点    程序员
9 条回复
cq65617875
2020-01-19 19:34:31 +08:00
没有 delete ?
蔟大文件小 一直写入超小文件的话 ssd 是不是就爽飞了
myliang
2020-01-19 21:44:36 +08:00
@cq65617875 删除数据暂时只是做标记,真要删除重排索引,你有什么好建议
CallMeReznov
2020-01-19 21:55:26 +08:00
对象存储?
myliang
2020-01-19 22:20:53 +08:00
@CallMeReznov 单机小文件对象存储
lxml
2020-01-19 22:31:24 +08:00
https://mp.weixin.qq.com/s/YM1QsdAHEHdehJT2_oMVSg
上次看 pingcap 的 CTO 讲 tidb 在本地磁盘伤的坑,可以尝试一下,看能不能触发不同操作系统不同文件格式的坑~~
privil
2020-01-19 23:19:04 +08:00
是时候安利一波 seaweedfs 了,用 java 消耗太高了吧……
myliang
2020-01-20 08:40:49 +08:00
@privil 这是嵌入式的,不是单独的服务
abellee000
2020-01-20 14:13:54 +08:00
弄个对象储存? minio ?
myliang
2020-01-20 14:56:22 +08:00
@abellee000 非分布式小对象存储,也就是多小文件合并为大文件而已

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/639228

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX