|
本帖最后由 happysun110 于 2025-4-27 20:39 编辑
如题,我的操作系统是 debian 12, 内核 6.1 (尝试过升级到 6.12),网卡是 cx-5.
我下载安装了 mlnx_ofed 驱动,官网最新的 24.10-2.1.8.0 版本,支持 debian 12.5。然后从网友处拿到了对应这个驱动版本的 mlnx-nfsrdma-dkms_24.10.OFED.24.10.2.1.8.1-1_all.deb 文件。两者都顺利安装。
相关的模块也都装载了:
lsmod | grep -E "rpcrdma|svcrdma|xprtrdma|ib_core|mlx5_ib"
xprtrdma 12288 0
rpcrdma 110592 2
svcrdma 12288 0
rdma_cm 155648 2 rpcrdma,rdma_ucm
mlx5_ib 552960 0
ib_uverbs 212992 2 rdma_ucm,mlx5_ib
ib_core 536576 9 rdma_cm,ib_ipoib,rpcrdma,iw_cm,ib_umad,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm
macsec 69632 1 mlx5_ib
sunrpc 860160 18 nfsd,rpcrdma,auth_rpcgss,lockd,nfs_acl
mlx5_core 2883584 1 mlx5_ib
mlx_compat 20480 17 rdma_cm,ib_ipoib,mlxdevm,rpcrdma,nvme,mlxfw,xprtrdma,iw_cm,nvme_core,svcrdma,ib_umad,ib_core,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm,mlx5_core
两台机器都是 cx5 网卡,直连,手工设置ip地址,测试网络连接没有问题。 ib_write_bw 测试结果如下,也是正常:
---------------------------------------------------------------------------------------
#bytes #iterations BW peak[MiB/sec] BW average[MiB/sec] MsgRate[Mpps]
65536 5000 11030.78 11030.45 0.176487
---------------------------------------------------------------------------------------
nfs 服务器端开始 rdma:
sudo vi /etc/nfs.conf
增加内容:
[nfsrdma]
enable=1
port=20049
sudo vi /etc/nfs.conf
然后重启 NFS 服务:
sudo systemctl restart nfs-server
验证 NFS RDMA 服务是否监听:
sudo rpcinfo -p | grep 20049
卡在这里了: 始终无法开始监听 rdma 的 20049 端口。
google 了许久,也问了 deepseek ,始终没有搞定。
请教高手!谢谢!
|
|