机械硬盘架设静态服务器,支持千万级小文件存储&高并发,有没有开源的解决方案?

2020-03-11 09:04:14 +08:00
 kisshere

关键字:机械盘、千万级、高并发

同时满足这三个条件可能很苛刻,机械盘对于大量小文件(1Mb 左右)高并发简直是噩梦,但 ssd 做静态服务器有点奢侈,这方面有没有开源的存储解决方案?

8831 次点击
所在节点    程序员
64 条回复
siyiye
2020-03-11 09:28:37 +08:00
支持千万级小文件存储&高并发——但 ssd 做静态服务器有点奢侈。

所以我觉得你也不用折腾了
kisshere
2020-03-11 09:29:57 +08:00
@siyiye 所以开贴求 V 站大神看有没有机械盘解决方案,实在不行只能上 ssd
lcy630409
2020-03-11 09:33:16 +08:00
你这个需求不就是 CDN 正好解决的么....
janxin
2020-03-11 09:34:36 +08:00
全部读入内存,不加硬盘就加内存呗
sadfQED2
2020-03-11 09:34:47 +08:00
都到千万级了,ssd 的钱都给不起吗
FaceBug
2020-03-11 09:42:30 +08:00
看你并发量咯,如果持续很大,每个文件都是热文件,那就只能 SSD 了,都这个规模了还等啥

如果每天都只是部分数据存取量很大,可以加个 SSD 的缓存盘
Xusually
2020-03-11 09:45:10 +08:00
必须机械盘的话,淘宝买点便宜的准系统,内存大些,cpu 无所谓,台数多一些,搭分布式的,比如 fastdfs 之类的,分散压力。
miclinux
2020-03-11 09:46:07 +08:00
硬盘不够内存来凑。。。
lvzhiqiang
2020-03-11 09:47:16 +08:00
拖拉机怎么优化也不可能快过法拉利吧。。
cydian
2020-03-11 09:49:05 +08:00
SSD 解君愁吧。
只读取大量小文件,机械硬盘不仅慢还寿命短。
两者算下来差不了多少。
alphatoad
2020-03-11 09:50:19 +08:00
…page replacement algorithm?
opengps
2020-03-11 09:52:15 +08:00
千万级小文件性能问题,这是对象存储能解决的问题。楼主可以搜下这个方向的关键词
tigerstudent
2020-03-11 10:01:39 +08:00
SSD 现在还算奢侈品吗
rockyou12
2020-03-11 10:05:43 +08:00
软件反正是 minio 或者 ceph 这些?但机械硬盘小文件读写不管怎么样都很差,真压力大还是老实上 ssd 算了
90928yao
2020-03-11 10:09:05 +08:00
有个中国人写的基于 haystack 实现的对象存储 忘了叫啥了
oahzuw
2020-03-11 10:25:53 +08:00
存 Mongodb 中试试,上家公司存图片就是这么玩的。
realpg
2020-03-11 10:25:56 +08:00
SSD 还奢侈?
我这种垃圾佬的服务器集群都全是 SSD 了……
单台服务器成本几百元的巨量规模集群
nowgoo
2020-03-11 10:26:50 +08:00
realpg
2020-03-11 10:28:23 +08:00
随便分层的解决问题

几十台垃圾的 768GB 内存的廉价服务器
然后二级热读缓存用光威 1.5TB/960GB/2TB 的分布式集群
密写一台服务器一块 PCI-E 密写分布
冷数据可靠存储用 8TB 乐视盘

这就是极端廉价(市价 1/10 )的超级存储集群
我这有 PB 级的集群
hutng
2020-03-11 10:38:57 +08:00
非企业级高性能 SSD 比机械也贵不了太多吧

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/651740

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX