找回密码
 加入我们
搜索
      
楼主: sst7029

[NAS] 分享一个高速网卡4盘位nvme全闪nas方案

[复制链接]
发表于 2024-1-4 21:47 | 显示全部楼层
【2000元级别的7xM.2盘位雷电网桥全闪NAS搭建】 https://www.bilibili.com/video/B ... 2ad628982a28cfeddf1
这个方案呢
发表于 2024-1-4 22:22 | 显示全部楼层
这么高的NET带宽。没有RDMA,CPU会扛不住吧?
 楼主| 发表于 2024-1-5 12:22 | 显示全部楼层
卢奇亚诺 发表于 2024-1-4 21:47
【2000元级别的7xM.2盘位雷电网桥全闪NAS搭建】 https://www.bilibili.com/video/BV1az4y1L7CU/?share_sour ...

nuc9是pcie3.0啊,还是4.0战未来
 楼主| 发表于 2024-1-5 12:23 | 显示全部楼层
spyman1802 发表于 2024-1-4 22:22
这么高的NET带宽。没有RDMA,CPU会扛不住吧?

肯定是要开启rdma的
发表于 2024-1-5 13:21 | 显示全部楼层
5000APU不能4+4+4+4拆封呢
 楼主| 发表于 2024-1-5 16:25 | 显示全部楼层
theshy 发表于 2024-1-5 13:21
5000APU不能4+4+4+4拆封呢

方案是X8X4X4拆分
发表于 2024-1-5 17:06 | 显示全部楼层
最近打算买新出的威联通雷电nas,但是感觉100G好nb,不知道100g实际体验会比雷电4快吗。楼主赶紧搞起来,发个评测,我来抄作业
发表于 2024-1-6 08:09 | 显示全部楼层
本帖最后由 寞少年 于 2024-1-6 08:16 编辑

弄一个PCI-E转U.2的转接卡,买两个二手的7.68T U.2,性能更好,价格也不贵
发表于 2024-1-6 11:00 | 显示全部楼层
这才是标准全闪nas的标准,基础配置。其他都扯
 楼主| 发表于 2024-1-8 14:26 | 显示全部楼层
michaelzxp 发表于 2024-1-6 11:00
这才是标准全闪nas的标准,基础配置。其他都扯

谢谢肯定,感觉这个配置家用也就够了。
发表于 2024-1-15 23:39 | 显示全部楼层
起初也这么想的,刚出掉一颗5650GE,首先是3.0 的,然后华硕B550只能拆X8X4X4,不知道其他主板怎么拆,还有得用纯ECC,巨贵,鱼上也贵。
发表于 2024-1-16 00:20 | 显示全部楼层
本帖最后由 赫敏 于 2024-1-15 11:23 编辑
fyc858 发表于 2024-1-4 03:36
先不说大文件,小文件100G网卡有屁用,10G都跑不到


大文件也跑不到。这种走CPU的RDMA一到写入就歇菜
这配置比楼主说的高好多倍了,软件方面走Azure HCI比DIY的好太多了还是这个鬼样子
3 x DataON S2D-6224 2U 24x 2.5″ All-NVMe server nodes.

Per Node:

2x Intel Xeon Scalable Gen3 Gold 6330 2.0 GHz, 28-Core, 42MB Cache
32x Samsung 64GB DDR4 3200MHz ECC-Register RDIMM
2x Intel S4520 480GB SATA M.2 Boot Drive
1x NVIDIA ConnectX-6 Dx EN Dual-Port QFP56 100GbE RDMA Card, PCIe 4.0 x16
5x Intel DC P5510 NVMe 3.8TB 2.5″ 144L 3D TLC SSD
storagereview-dataon-3node-graph3.png
发表于 2024-1-16 16:28 | 显示全部楼层
本帖最后由 网仙 于 2024-1-17 17:38 编辑

软件系统选择比较挠头。

目前测试下来,winserver2022的存储池下,性能最好(可能是自动开启了RDMA?),TrueNas和群晖下SSD性能都会打折。2个sn640在radi0下,单线程都跑不满10G网。

如果用winserver创建池,然后网络挂载给群晖,能喂饱10G网,有脱裤子放屁的嫌疑,但群晖的很多app都没法直接利用这个空间。

本质上还是希望能用群晖来直接管理这些nvme的盘,  毕竟从易用性、通用性来说还是群晖做的最好,自带应用几乎可以简单坚决所有的NAS应用需求,也能给部门的几十个同事作为工作共享盘使用。

有点无奈、还在探索中。
 楼主| 发表于 2024-1-17 15:29 | 显示全部楼层
网仙 发表于 2024-1-16 16:28
软件系统选择比较挠头。

目前测试下来,winserver2022的存储池下,性能最好(可能是自动开启了RDMA?),T ...

10G网络指的是10Gb/s?
发表于 2024-1-17 17:15 | 显示全部楼层
sst7029 发表于 2024-1-17 15:29
10G网络指的是10Gb/s?

对的,万兆网
 楼主| 发表于 2024-1-18 11:09 | 显示全部楼层

不应该吧,单盘的读写都超万兆网速了
发表于 2024-1-18 23:40 | 显示全部楼层
SN640在群晖下不行
 楼主| 发表于 2024-1-19 09:26 | 显示全部楼层
网仙 发表于 2024-1-18 23:40
SN640在群晖下不行

用win系统啊,还支持rdma
发表于 2024-1-19 09:34 | 显示全部楼层
sst7029 发表于 2024-1-19 09:26
用win系统啊,还支持rdma

已经习惯群晖的生态和易用性;
win我也部署了,作为轻量化服务器使用,但确实没有群晖方便
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2024-6-8 19:45 , Processed in 0.011621 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表