|  | 
 
| 本帖最后由 happysun110 于 2025-4-27 20:39 编辑 
 如题,我的操作系统是 debian 12, 内核 6.1 (尝试过升级到 6.12),网卡是 cx-5.
 
 我下载安装了 mlnx_ofed 驱动,官网最新的 24.10-2.1.8.0 版本,支持 debian 12.5。然后从网友处拿到了对应这个驱动版本的 mlnx-nfsrdma-dkms_24.10.OFED.24.10.2.1.8.1-1_all.deb 文件。两者都顺利安装。
 
 相关的模块也都装载了:
 
 lsmod | grep -E "rpcrdma|svcrdma|xprtrdma|ib_core|mlx5_ib"
 
 xprtrdma               12288  0
 rpcrdma               110592  2
 svcrdma                12288  0
 rdma_cm               155648  2 rpcrdma,rdma_ucm
 mlx5_ib               552960  0
 ib_uverbs             212992  2 rdma_ucm,mlx5_ib
 ib_core               536576  9 rdma_cm,ib_ipoib,rpcrdma,iw_cm,ib_umad,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm
 macsec                 69632  1 mlx5_ib
 sunrpc                860160  18 nfsd,rpcrdma,auth_rpcgss,lockd,nfs_acl
 mlx5_core            2883584  1 mlx5_ib
 mlx_compat             20480  17 rdma_cm,ib_ipoib,mlxdevm,rpcrdma,nvme,mlxfw,xprtrdma,iw_cm,nvme_core,svcrdma,ib_umad,ib_core,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm,mlx5_core
 
 两台机器都是 cx5 网卡,直连,手工设置ip地址,测试网络连接没有问题。 ib_write_bw 测试结果如下,也是正常:
 
 ---------------------------------------------------------------------------------------
 #bytes     #iterations    BW peak[MiB/sec]    BW average[MiB/sec]   MsgRate[Mpps]
 65536      5000             11030.78            11030.45                     0.176487
 ---------------------------------------------------------------------------------------
 
 nfs 服务器端开始 rdma:
 
 sudo vi /etc/nfs.conf
 
 增加内容:
 
 [nfsrdma]
 enable=1
 port=20049
 sudo vi /etc/nfs.conf
 
 然后重启 NFS 服务:
 
 sudo systemctl restart nfs-server
 
 验证 NFS RDMA 服务是否监听:
 
 sudo rpcinfo -p | grep 20049
 
 卡在这里了: 始终无法开始监听 rdma 的 20049 端口。
 
 google 了许久,也问了 deepseek ,始终没有搞定。
 
 请教高手!谢谢!
 
 | 
 |