Chiphell - 分享与交流用户体验

标题: QSFP 40Gb万兆光纤网卡有办法直连SFP 10Gb网卡吗? [打印本页]

作者: 红色狂想    时间: 2022-12-24 15:56
标题: QSFP 40Gb万兆光纤网卡有办法直连SFP 10Gb网卡吗?
又给自己挖了个坑,原因是以前那台HP ML310e Gen8 v2服务器上的万兆光纤网卡是HP NC552SFP 10Gb 2-port Ethernet Server Adapter,是双端口SFP,现在想和HP InfiniBand FDR/Ethernet 10Gb/40Gb 2-port 544+FLR-QSFP Adapter直连,不知道有没有什么好办法

(, 下载次数: 60)
作者: wxlg1117    时间: 2022-12-24 16:16
本帖最后由 wxlg1117 于 2022-12-24 16:18 编辑

应该有俩头不一样的DAC线吧吧,不过估计不好找
作者: Narumi    时间: 2022-12-24 16:19
有,以前正好玩过
有QSFP一分四SFP的线,你可以用来当QSFP转SFP的一种方式,也有单个的一段QSFP一段SFP的特殊线。
作者: 红色狂想    时间: 2022-12-24 16:24
Narumi 发表于 2022-12-24 16:19
有,以前正好玩过
有QSFP一分四SFP的线,你可以用来当QSFP转SFP的一种方式,也有单个的一段QSFP一段SFP的特 ...

我咨询过卖家,说这种一分四的堆叠线需要上Mellanox SX6036交换机才能实现啊

(, 下载次数: 60)
作者: Narumi    时间: 2022-12-24 16:27
红色狂想 发表于 2022-12-24 16:24
我咨询过卖家,说这种一分四的堆叠线需要上Mellanox SX6036交换机才能实现啊

...

亲测,HPE544+ QSFP对CX342A的SFP,以QSFP端与其P1的SFP端子连接,能正常传输10G。
作者: 红色狂想    时间: 2022-12-24 16:28
wxlg1117 发表于 2022-12-24 16:16
应该有俩头不一样的DAC线吧吧,不过估计不好找

这个不得需要转换模块吗,成本一定很贵
作者: 红色狂想    时间: 2022-12-24 16:31
Narumi 发表于 2022-12-24 16:27
亲测,HPE544+ QSFP对CX342A的SFP,以QSFP端与其P1的SFP端子连接,能正常传输10G。 ...

你还记得用的是哪款直连线吗?
作者: Narumi    时间: 2022-12-24 16:36
红色狂想 发表于 2022-12-24 16:31
你还记得用的是哪款直连线吗?


和谁家没关系,理论不存在问题,而且那个一分四线我早就丢了,之前我还来论坛问过能不能链路聚合,答案是只有交换机才能实现,我这一直没法解决一边HPE544+的散热问题所以一直拿一分四+CX342A代替直连线凑合,现在两边都是HPE544了就更没问题了。
作者: ccsa001    时间: 2022-12-24 16:45
ADOP  40G 转10G  或者100G转10G
作者: 红色狂想    时间: 2022-12-24 16:46
Narumi 发表于 2022-12-24 16:36
和谁家没关系,理论不存在问题,而且那个一分四线我早就丢了,之前我还来论坛问过能不能链路聚合,答案是 ...

HP 544+FLR-QSFP这卡很热吗,你不是装在服务器里使用的对吧?有没有试过一分四后那4个10Gb端口分别接4台设备会怎样
作者: playclan    时间: 2022-12-24 17:06
544+挺热的
lz图上的是544不是544+
作者: 红色狂想    时间: 2022-12-24 17:09
ccsa001 发表于 2022-12-24 16:45
ADOP  40G 转10G  或者100G转10G

你说的是这款吗?

(, 下载次数: 57)
作者: 老饭    时间: 2022-12-24 17:18
有qsfp+转sfp+转接模块的
作者: 红色狂想    时间: 2022-12-24 17:25
playclan 发表于 2022-12-24 17:06
544+挺热的
lz图上的是544不是544+

无论是电口万兆还是光口万兆都很热吧,难道40Gb的会比10Gb的更热一些?lz图没仔细看,下图这个应该是544+吧

(, 下载次数: 60)
(, 下载次数: 49)
(, 下载次数: 59)
作者: zhuifeng88    时间: 2022-12-24 17:31
红色狂想 发表于 2022-12-24 17:25
无论是电口万兆还是光口万兆都很热吧,难道40Gb的会比10Gb的更热一些?lz图没仔细看,下图这个应该是544+ ...

同样用sfp+模块的情况下电口要比光口热的多, 电口是用了PAM16+2048,1723的LDPC纠错才强行弄上这个速率的, 这部分引起了很大的功耗, 光口只用了64/66做直流平衡
作者: ccsa001    时间: 2022-12-24 17:38
红色狂想 发表于 2022-12-24 17:09
你说的是这款吗?

我买的是不是1分4的  直接就是1分1的  直接问客服的
作者: Narumi    时间: 2022-12-24 17:48
红色狂想 发表于 2022-12-24 16:46
HP 544+FLR-QSFP这卡很热吗,你不是装在服务器里使用的对吧?有没有试过一分四后那4个10Gb端口分别接4台 ...

544+挺热的,不做个散热真的会寄。
至于那个一分四你就别想着分接了,只有在用交换机的时候才有用,你HPE544+一个口只能识别一个配对设备
作者: enpingking    时间: 2022-12-24 17:52
本帖最后由 enpingking 于 2022-12-24 17:57 编辑
红色狂想 发表于 2022-12-24 17:25
无论是电口万兆还是光口万兆都很热吧,难道40Gb的会比10Gb的更热一些?lz图没仔细看,下图这个应该是544+ ...


Mellanox MAM1Q00A QSFP/SFP+ 40G转10G 模块转换器,咸鱼上买个就是了,然后插SFP+的对接线,类似效果
(, 下载次数: 61)

咸鱼上也有QSFP转SFP+的线,行不行就只能自己试了
(, 下载次数: 53)
作者: 马杰    时间: 2022-12-24 21:32
楼上这才是正解。 QSFP/SFP+ 40G转10G 模块转换器
作者: 红色狂想    时间: 2022-12-24 22:30
马杰 发表于 2022-12-24 21:32
楼上这才是正解。 QSFP/SFP+ 40G转10G 模块转换器

Mellanox MAM1Q00A QSFP/SFP+ 40G转10G 模块转换器
Mellanox 迈络思 QSFP 40G DAC 2米黑色铜缆线
这两个方案选哪种好呀?
作者: 5jwoj    时间: 2022-12-24 22:59
(, 下载次数: 56) 我当初还买了 这个,不过功耗太大了,但发热不大,3块卡全都低价转卖了
作者: 马杰    时间: 2022-12-25 01:36
红色狂想 发表于 2022-12-24 22:30
Mellanox MAM1Q00A QSFP/SFP+ 40G转10G 模块转换器
Mellanox 迈络思 QSFP 40G DAC 2米黑色铜缆线
这两个 ...

2个方案差不多吧,哪个便宜用哪个咯
作者: michaelzxp    时间: 2022-12-25 11:35
目前海鲜市场的ib交换机价格很香,不知道作为家庭网络主交换有没有坑
作者: 红色狂想    时间: 2022-12-25 12:15
michaelzxp 发表于 2022-12-25 11:35
目前海鲜市场的ib交换机价格很香,不知道作为家庭网络主交换有没有坑

除了价格,最主要的还是噪音问题,如果比服务器还响,在家庭环境中怎么用啊
作者: 红色狂想    时间: 2022-12-25 12:17
马杰 发表于 2022-12-25 01:36
2个方案差不多吧,哪个便宜用哪个咯

这种转换需要芯片桥接吗,会不会有额外的热损耗与延时?
作者: 红色狂想    时间: 2022-12-25 12:33
5jwoj 发表于 2022-12-24 22:59
我当初还买了 这个,不过功耗太大了,但发热不大,3块卡全都低价转卖了

我也想上这种标准PCIe3 x8 to FlexibleLOM形式的转接卡,就是不知道HP ML310e Gen8 v2服务器能否兼容HP 544+FLR-QSFP这款IB卡,要是能兼容我就再弄一张直接对接,也就不用再折腾这个QSFP转SFP转接线了

(, 下载次数: 57)
作者: 声色茶马    时间: 2023-2-13 16:08
enpingking 发表于 2022-12-24 17:52
Mellanox MAM1Q00A QSFP/SFP+ 40G转10G 模块转换器,咸鱼上买个就是了,然后插SFP+的对接线,类似效果

跟进问一下几位大佬,

这个QSFP转SFP的头或者转换线,插在544、CX354a这样的QSFP口网卡上之后,对网卡本身的RDMA,ROCE,SR-IOV之类的功能应该没影响吧

想捡个支持ROCE v2的10G卡折腾折腾。看了一圈,垃圾佬好像只有CX354a,544 FLR这俩QSFP口的可选。问题是没有40G的交换机啊,只能把QSFP降级到10G用,但是又希望保持那些高级的功能。
作者: 猪圈    时间: 2023-2-13 16:27
你用一个QSFP转sfp的转接头就可以直接用10G模块
作者: 猪圈    时间: 2023-2-13 16:27
一分四网卡不能用~
作者: 声色茶马    时间: 2023-2-13 19:23
Narumi 发表于 2022-12-24 17:48
544+挺热的,不做个散热真的会寄。
至于那个一分四你就别想着分接了,只有在用交换机的时候才有用,你HPE ...


再搭车问一句,mellanox的X4是不是能比X3 Pro凉快点儿?比如MCX4121这种是不是能比544+、354A之类的凉快点儿?
作者: QSG    时间: 2023-2-13 20:42
有个东西叫qsfp转sfp
作者: Illidan2004    时间: 2023-11-1 17:01
猪圈 发表于 2023-2-13 16:27
一分四网卡不能用~

我看到一个网上某牌子卖线的客服的说法是   
不管是用一分四的产品,还是QSA模块,都需要40G设备能支持拆分一分四工作模式才能使用
作者: Dolfin    时间: 2023-11-1 17:18
实测Mellanox 100G 一分四 25G DAC,网卡直连,四个sfp28接口,一只可用,其余3只不可用。
作者: rx_78gp02a    时间: 2023-11-1 17:38
mellanox家的网卡不支持拆分,使用一分四的线只有第一路10G可用,其余的3路10G用不了。交换机可以拆,一个40G支持拆4个10G分别使用。
作者: 404404    时间: 2023-11-1 22:28
其实楼上已经讲了解决方案了,可以买QSFP+转SFP+的头子再接SFP+模块,也可以买QSFP+的一分四线接第一个SFP+。

为什么交换机能拆?因为QSFP+本来就是四个10G的通道的拼起来的,所以交换机可以配置拆分使用。
作者: 猪圈    时间: 2023-11-3 13:20
Illidan2004 发表于 2023-11-1 17:01
我看到一个网上某牌子卖线的客服的说法是   
不管是用一分四的产品,还是QSA模块,都需要40G设备能支持拆 ...

M家的40G网卡,不能做拆分,但是M家的交换机可以做拆分
作者: Satan023    时间: 2023-11-3 15:45
zhuifeng88 发表于 2022-12-24 17:31
同样用sfp+模块的情况下电口要比光口热的多, 电口是用了PAM16+2048,1723的LDPC纠错才强行弄上这个速率的, ...

6 这个回复好专业
作者: zhuojiawei    时间: 2023-11-3 16:24
据我所知早期的40G是用4个10G捆绑起来的,四个通道的光不同波长的,这种应该是可以拆分的;
另一种新的40G是单个通道的,这种应该就是拆不了的。
作者: ttsammammb    时间: 2023-11-15 22:10
lz最后是怎么解决问题的,看了下转10G 模块价格不便宜啊,也没啥别的地方可以再利用,还得再搭根线,都是二手不如上一分四线了
作者: 天道太酬勤    时间: 2023-11-15 22:31
本帖最后由 天道太酬勤 于 2023-11-15 22:37 编辑
声色茶马 发表于 2023-2-13 19:23
再搭车问一句,mellanox的X4是不是能比X3 Pro凉快点儿?比如MCX4121这种是不是能比544+、354A之类的凉快 ...


nv官网有写功耗,MCX314A比MCX4131A还低点
作者: 红色狂想    时间: 2023-11-16 14:04
本帖最后由 红色狂想 于 2023-11-16 14:06 编辑
ttsammammb 发表于 2023-11-15 22:10
lz最后是怎么解决问题的,看了下转10G 模块价格不便宜啊,也没啥别的地方可以再利用,还得再搭根线,都是二 ...


还能怎么解决,太折腾了,直接放弃,换了HP FlexFabric 10Gb 2-port 534FLR-SFP+ Adapter,详见这篇帖子的69#楼:HP ProLiant DL360 Gen9 1U机架式服务器跑ESXi怎样配置硬件最完美?

作者: 红色狂想    时间: 2023-11-16 14:11
zhuojiawei 发表于 2023-11-3 16:24
据我所知早期的40G是用4个10G捆绑起来的,四个通道的光不同波长的,这种应该是可以拆分的;
另一种新的40G ...

是的,太麻烦了,所以后来我放弃该方案了,家用搞个双万兆就可以了,没必要弄40G,最后上了HP FlexFabric 10Gb 2-port 534FLR-SFP+ Adapter
作者: 红色狂想    时间: 2023-11-16 14:19
404404 发表于 2023-11-1 22:28
其实楼上已经讲了解决方案了,可以买QSFP+转SFP+的头子再接SFP+模块,也可以买QSFP+的一分四线接第一个SFP+ ...

后来我放弃了,这样转来转去太折腾,增加几倍成本不说,还增添了接插件等兼容性问题,家用搞个双万兆就可以了,没必要弄40G,所以最后上了HP FlexFabric 10Gb 2-port 534FLR-SFP+ Adapter,详见41#楼的回帖……

作者: weindy    时间: 2023-11-16 14:21
是啊,用530/534直连就好了,目前回帖的机器就是用的这个方案,咸鱼上买两张530,到手有一张是534。。。不过直连没任何影响。
作者: 红色狂想    时间: 2023-11-16 14:23
Dolfin 发表于 2023-11-1 17:18
实测Mellanox 100G 一分四 25G DAC,网卡直连,四个sfp28接口,一只可用,其余3只不可用。 ...

是的,所以后来我放弃了,还是老老实实的用10G SFP+吧
作者: 红色狂想    时间: 2023-11-16 14:34
weindy 发表于 2023-11-16 14:21
是啊,用530/534直连就好了,目前回帖的机器就是用的这个方案,咸鱼上买两张530,到手有一张是534。。。不 ...

这卡良心,现在HP还在更新固件和驱动,对于老机器足够用了。不过后来我不直连了,买了一台HP E3800 48G-4SFP+ J9576A万兆交换机,详见这篇帖子:https://www.chiphell.com/thread-2517574-1-1.html
作者: 红色狂想    时间: 2023-11-16 14:37
rx_78gp02a 发表于 2023-11-1 17:38
mellanox家的网卡不支持拆分,使用一分四的线只有第一路10G可用,其余的3路10G用不了。交换机可以拆,一个4 ...

是的,所以这种方案不可取,对于家用得不偿失。
作者: 红色狂想    时间: 2023-11-16 14:41
QSG 发表于 2023-2-13 20:42
有个东西叫qsfp转sfp

如何将QSFP+端口转换为SFP+端口?
作者: weindy    时间: 2023-11-17 14:09
红色狂想 发表于 2023-11-16 14:34
这卡良心,现在HP还在更新固件和驱动,对于老机器足够用了。不过后来我不直连了,买了一台HP E3800 48G-4 ...

这卡新驱动的iSCSI支持做的不错,给hpe点赞
万兆交换机。。等换了房子也部署起来,目前原厂的ib交换机价格下来了。。
作者: 红色狂想    时间: 2023-11-17 14:42
weindy 发表于 2023-11-17 14:09
这卡新驱动的iSCSI支持做的不错,给hpe点赞
万兆交换机。。等换了房子也部署起来,目前原厂的ib交换机价 ...

IB没有Eth实用吧,后者什么都能跑
作者: weindy    时间: 2023-11-17 18:49
红色狂想 发表于 2023-11-17 14:42
IB没有Eth实用吧,后者什么都能跑

这些ib交换机都能改网口设置到eth的,之前代改的收费还挺贵(500+)
作者: 红色狂想    时间: 2023-11-17 20:39
weindy 发表于 2023-11-17 18:49
这些ib交换机都能改网口设置到eth的,之前代改的收费还挺贵(500+)

你用的IB交换机都是哪些型号,带风扇噪音大吗?
作者: weindy    时间: 2023-11-18 20:43
红色狂想 发表于 2023-11-17 20:39
你用的IB交换机都是哪些型号,带风扇噪音大吗?

没用过。。比较占地方,而且机房级别的噪音太劝退了不过咸鱼目前有的商家说是能改静音,但是这玩意万转风扇下去了不会烧吗。。
作者: 红色狂想    时间: 2023-11-19 14:07
weindy 发表于 2023-11-18 20:43
没用过。。比较占地方,而且机房级别的噪音太劝退了不过咸鱼目前有的商家说是能改静音,但是这玩意万转风 ...

像MikroTik家的万兆交换机那样,换猫扇吗?要是我就劝退不搞了,不喜欢破坏原厂设计,家用也没必要折腾它,除非是自己为了学习钻研运维技术。





欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/) Powered by Discuz! X3.5