happysun110 发表于 2025-4-27 18:01

[请教]怎么在 debian12系统中开启 nfsrdma?

本帖最后由 happysun110 于 2025-4-27 20:39 编辑

如题,我的操作系统是 debian 12, 内核 6.1 (尝试过升级到 6.12),网卡是 cx-5.

我下载安装了 mlnx_ofed 驱动,官网最新的 24.10-2.1.8.0 版本,支持 debian 12.5。然后从网友处拿到了对应这个驱动版本的 mlnx-nfsrdma-dkms_24.10.OFED.24.10.2.1.8.1-1_all.deb 文件。两者都顺利安装。

相关的模块也都装载了:

lsmod | grep -E "rpcrdma|svcrdma|xprtrdma|ib_core|mlx5_ib"

xprtrdma               122880
rpcrdma               1105922
svcrdma                122880
rdma_cm               1556482 rpcrdma,rdma_ucm
mlx5_ib               5529600
ib_uverbs             2129922 rdma_ucm,mlx5_ib
ib_core               5365769 rdma_cm,ib_ipoib,rpcrdma,iw_cm,ib_umad,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm
macsec               696321 mlx5_ib
sunrpc                86016018 nfsd,rpcrdma,auth_rpcgss,lockd,nfs_acl
mlx5_core            28835841 mlx5_ib
mlx_compat             2048017 rdma_cm,ib_ipoib,mlxdevm,rpcrdma,nvme,mlxfw,xprtrdma,iw_cm,nvme_core,svcrdma,ib_umad,ib_core,rdma_ucm,ib_uverbs,mlx5_ib,ib_cm,mlx5_core

两台机器都是 cx5 网卡,直连,手工设置ip地址,测试网络连接没有问题。 ib_write_bw 测试结果如下,也是正常:

---------------------------------------------------------------------------------------
#bytes   #iterations    BW peak    BW average   MsgRate
65536      5000             11030.78            11030.45                     0.176487
---------------------------------------------------------------------------------------

nfs 服务器端开始 rdma:

sudo vi /etc/nfs.conf

增加内容:


enable=1
port=20049
sudo vi /etc/nfs.conf

然后重启 NFS 服务:

sudo systemctl restart nfs-server

验证 NFS RDMA 服务是否监听:

sudo rpcinfo -p | grep 20049

卡在这里了: 始终无法开始监听 rdma 的 20049 端口。

google 了许久,也问了 deepseek ,始终没有搞定。

请教高手!谢谢!
页: [1]
查看完整版本: [请教]怎么在 debian12系统中开启 nfsrdma?