找回密码
 加入我们
搜索
      
楼主: wxcup

[NAS] HP Gen8老骥伏枥之PCIE拆分卡进化终极形态——All in boom卡(万兆阵列一卡通)[已上架]

  [复制链接]
发表于 2025-3-13 11:06 | 显示全部楼层
老板能否万兆网卡➕m.2ssd或者u2啊能跑满速的
 楼主| 发表于 2025-3-13 14:34 | 显示全部楼层
jeffreylzhao 发表于 2025-3-13 11:06
老板能否万兆网卡➕m.2ssd或者u2啊能跑满速的

万兆+双M.2貌似已经有现成的产品了,只不过需要支持844拆分;
gen8目前只能跑双x8拆分,如果需要万兆+单M.2组合的话可以考虑双OCP的拆分卡
发表于 2025-3-13 16:03 | 显示全部楼层
wxcup 发表于 2025-3-13 14:34
万兆+双M.2貌似已经有现成的产品了,只不过需要支持844拆分;
gen8目前只能跑双x8拆分,如果需要万兆+单M ...

能否给一个关键词啊
 楼主| 发表于 2025-3-13 17:08 | 显示全部楼层
jeffreylzhao 发表于 2025-3-13 16:03
能否给一个关键词啊

可以试一下:OCP+NVME转接卡
不过这类卡拆分之后nvme兼容性比较一般,尤其的现在比较新的pcie4.0的SSD有可能会认不到
发表于 2025-3-14 10:18 | 显示全部楼层
本帖最后由 ppcoco 于 2025-3-14 10:20 编辑
sym 发表于 2025-3-11 20:28
刚刚装好,相当极限


这个很牛啊,gen8才到手,追了一个晚潮流,向各位大佬学习。
顺便请教一下,用楼主的这个AIB卡,会有风扇噪音的问题吗。
 楼主| 发表于 2025-3-14 11:51 | 显示全部楼层

ppcoco 发表于 2025-3-14 10:18
这个很牛啊,gen8才到手,追了一个晚潮流,向各位大佬学习。
顺便请教一下,用楼主的这个AIB卡,会有风扇 ...


风扇都是选的台达服务器专用的风扇,有一定的噪音,但是两个小风扇噪音应该不会超过gen8那个12cm的主风扇的;
另外aib卡上还预留了两个3pin的主板风扇接口,可以根据自己需要灵活更换更静音的风扇
发表于 2025-3-14 12:18 来自手机 | 显示全部楼层
wxcup 发表于 2025-3-13 09:58
看着好像阵列卡没有接满8块硬盘吧?不知道raid是怎么规划的

目前的规划是一块老 ssd 作为 pve 系统盘接在主板 sas8087 开 ahci 模式,利用 sata3 的 6gb 带宽,gen8 硬盘笼 4 块 hc550  软 raid5 接 hba330 的 port1,两块 1.6t 的东芝 px05 sas 固态盘做读写缓存,整个 hba330 直通给黑裙,万兆网卡直通给 lede。彻底贯彻 allinboom
发表于 2025-3-14 12:22 来自手机 | 显示全部楼层
本帖最后由 sym 于 2025-3-14 12:46 编辑
wxcup 发表于 2025-3-14 11:51
风扇都是选的台达服务器专用的风扇,有一定的噪音,但是两个小风扇噪音应该不会超过gen8那个12cm的主风扇 ...


目前用下来 aib 卡上的两个小风扇还是有点吵的,gen8 主风扇可以安装 ilo2.77 破解固件,把转速维持在 6% 以下

刚拿软件测量了下,靠近前面板位置的噪音在60分贝左右,还是有点吵的,不够我打算扔进弱电柜也无所谓了
 楼主| 发表于 2025-3-15 08:57 | 显示全部楼层
sym 发表于 2025-3-14 12:18
目前的规划是一块老 ssd 作为 pve 系统盘接在主板 sas8087 开 ahci 模式,利用 sata3 的 6gb 带宽,gen8  ...

1. 主板8087硬盘接口好像只有1、2号盘位是SATA3,可以跑满6Gb带块,剩下两个盘位都是sata2的,装的时候可能要注意盘序;
2. 硬盘笼4块HC550 18TB硬盘的话还是强烈建议试试H730p的硬件阵列卡,毕竟价格只贵了几十块钱,但是读写性能和硬盘故障之后的阵列重建速度会比软阵列强上不少。
手头用的是HC560 20TB硬盘组RAID5,坏盘更换后重建速度大概是1天半左右,期间使用基本不受影响。如果是黑群软阵列的话,重建速度非常慢不说,重建过程中系统基本不可用;
3. 手头有一块东芝SAS 800G SSD,发热量不小,建议日常关注一下硬盘温度,SAS硬盘不超过50°为宜
发表于 2025-3-15 16:04 | 显示全部楼层
wxcup 发表于 2025-3-15 08:57
1. 主板8087硬盘接口好像只有1、2号盘位是SATA3,可以跑满6Gb带块,剩下两个盘位都是sata2的,装的时候可 ...

1. 虚拟机的ssd现在走的是sata1,实测速度没问题;
2. 以前硬件raid上吃过亏,宁愿牺牲点速度换取磁盘数据通用性了,而且cpu用1265l的话,读写性能差异15%以内还能接受,因为用了固态读写缓存盘,所以P730的缓存也没啥太大意义了;
3. 温度这个… 目前没太好的方案解决,先用一阵观察一下,而且smartctl也看不到这两块sas盘的smart信息,还有待研究。
 楼主| 发表于 2025-3-16 11:08 | 显示全部楼层
sym 发表于 2025-3-15 16:04
1. 虚拟机的ssd现在走的是sata1,实测速度没问题;
2. 以前硬件raid上吃过亏,宁愿牺牲点速度换取磁盘数据 ...

硬盘温度的话可以安装broadcomd的LSA软件或者DELl的PERCCLI命令行工具获取,不过在群晖下的话,软件包不确定能不能安装;
 楼主| 发表于 2025-3-18 12:34 | 显示全部楼层
sym 发表于 2025-3-15 16:04
1. 虚拟机的ssd现在走的是sata1,实测速度没问题;
2. 以前硬件raid上吃过亏,宁愿牺牲点速度换取磁盘数据 ...

windwos下可以安装LSA软件,配置和查看阵列卡及磁盘状态都可以,博通官网下载即可;
LSA.jpg

LINUX和ESXI下可以安装DELL的命令行工具PERCCLI64软件,DELL官网可以下载;
perccli_temp.jpg

黑群下可能要参照linux系统软件包,早期固件版本支持megacli的命令号
发表于 2025-3-20 00:26 | 显示全部楼层
wxcup 发表于 2025-3-16 11:08
硬盘温度的话可以安装broadcomd的LSA软件或者DELl的PERCCLI命令行工具获取,不过在群晖下的话,软件包不 ...

经实验,可以直接用smartctl和sg_logs获取sas硬盘的详细信息
  1. sg_logs -a /dev/sdx
复制代码
 楼主| 发表于 2025-3-24 11:31 | 显示全部楼层
大号因名被封 发表于 2025-2-26 14:33
牛逼了大佬,一直想怎么才能可以硬解的网卡+阵列或者直通卡...

有这个H730p的阵列卡,随时可以切换成直通卡;
不过还是建议用硬件raid功能,性能更好还支持硬盘休眠
发表于 2025-3-24 12:22 | 显示全部楼层
楼主真厉害。
 楼主| 发表于 2025-3-24 18:02 | 显示全部楼层
本帖最后由 wxcup 于 2025-3-25 08:40 编辑


过奖了,主要是现在这些用于服务器的万兆和阵列技术已经开始普及了,也应该惠及广大的NAS用户、DIY玩家和论坛坛友了
 楼主| 发表于 2025-3-27 09:03 | 显示全部楼层
ITX平台自组ALL IN BOOM级8盘位NAS,AMD 5600G+B550主板,具体内容不日会发帖详述,敬请期待

ITX_pre.jpg
发表于 2025-3-27 10:00 | 显示全部楼层
挺好,手上有块z370闲置,有时间可以买套来玩玩。
发表于 2025-3-28 09:37 | 显示全部楼层
dell的卡上gen8之后,跑马灯托架还能亮吗
 楼主| 发表于 2025-3-28 10:18 | 显示全部楼层
uyyu 发表于 2025-3-28 09:37
dell的卡上gen8之后,跑马灯托架还能亮吗

这个跑马灯托架指的是外置DELL硬盘笼的LED吗?
外置的DELL原装笼子接dell阵列卡的A口是可以正常点亮的,已经实测过了,只有A口有SAS线带外的信号,可以走硬盘灯的I2C或SGPIO协议;
 楼主| 发表于 2025-4-3 12:03 | 显示全部楼层
本帖最后由 wxcup 于 2025-4-5 14:06 编辑

DELL H730p mini转接卡已经在开发中了,预计尺寸只有2.5寸硬盘大小,采用8654-8i接口,可以通过转接线接入M.2插槽

8654to.jpg
单mini阵列转接卡,体积小巧,便于固定在机箱任何位置;

Magnet.jpg

配有磁吸螺丝,可以安装在机箱顶部,布线、理线更方便

发表于 2025-4-3 20:20 | 显示全部楼层
wxcup 发表于 2025-3-16 11:08
硬盘温度的话可以安装broadcomd的LSA软件或者DELl的PERCCLI命令行工具获取,不过在群晖下的话,软件包不 ...

求助下:
Gen8 microserver下AIB卡里的mcx4421a网卡能否开启并使用SR-IOV?
目前使用PVE8.3的virtIO, 万兆网速还是有瓶颈,LEDE+DSM的组合下,iperf3的上传在6Gbps左右,下载可以满速9.6Gbps,实测写入文件速度400MB/s上下,读取速度900+
发表于 2025-4-3 22:39 | 显示全部楼层
没想到HP的这台机器还能这样玩
 楼主| 发表于 2025-4-4 08:46 | 显示全部楼层
本帖最后由 wxcup 于 2025-4-4 08:48 编辑
sym 发表于 2025-4-3 20:20
求助下:
Gen8 microserver下AIB卡里的mcx4421a网卡能否开启并使用SR-IOV?
目前使用PVE8.3的virtIO, 万 ...


1. 网卡支持,但是Gen8不支持SRIOV,之前已经试过了,跟HP support也确认了,毕竟是10年前的机型了;
2. 万兆速率的话主要看瓶颈是否在CPU上,我用iperf测速的时候如果CPU某个核心满载了,万兆速率确实会受影响;而且pve的开源vitroio驱动好像效率也比较一般;
3. 软RAID5的话,写惩罚只能靠cpu硬抗,如果使用硬RAID卡的话,写IO的负载会从CPU上卸载不少,而且有1-2GB的缓存可以很大程度上缓解写惩罚的影响;
    所以这里就更推荐使用H730p的阵列卡,只比HBA卡贵100元左右,性能和可靠性的提升是肉眼可见的;
 楼主| 发表于 2025-4-4 11:36 | 显示全部楼层
hfs800 发表于 2025-4-3 22:39
没想到HP的这台机器还能这样玩

不光gen8可以这么玩,其他支持拆分的主板也可以这么玩;
最近装了一台itx主板的AMD 5600g的nas,也可以如法炮制
 楼主| 发表于 2025-4-6 09:54 | 显示全部楼层
newshadow 发表于 2025-3-27 10:00
挺好,手上有块z370闲置,有时间可以买套来玩玩。

不知道主板的型号,不过一般情况下Z370主板bios里应该都有拆分选项,这样的话就比gen8省事很多了,卡到手即用很方便
发表于 2025-4-7 18:53 | 显示全部楼层
楼主还有么
 楼主| 发表于 2025-4-7 19:20 | 显示全部楼层

正式版应该还有货,套装也有库存的;
在某鱼搜AIB卡即可
发表于 2025-4-11 11:04 | 显示全部楼层
大佬,想问下上面的4块SSD是怎么固定的
 楼主| 发表于 2025-4-11 12:54 | 显示全部楼层
本帖最后由 wxcup 于 2025-4-11 14:39 编辑
lou8888 发表于 2025-4-11 11:04
大佬,想问下上面的4块SSD是怎么固定的


我这个方案比较凑合一点,就是找了个透明的塑料片,目视打了孔固定的,利用了电源侧面的两个比较浅的螺丝孔;
不过外网已经有更优雅的方案了


4ssd-1.jpg
可以弄个薄钢板或者不锈钢板,按上图的规格打孔弯折;

4ssd-2.jpg
当然有更省事的3d打印版本

您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-4-26 23:13 , Processed in 0.016627 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表