请教24x7+GPU+100G网卡装机方案

yuweibing · 发表于 2024-1-4 16:04

本帖最后由 yuweibing 于 2024-1-4 16:06 编辑

请教板上的大神，
我有个数值计算的任务，数据通过100G Mellanox网卡传来，GPU计算一下（4080/4090），把找到的数据通过主机的网口发送出去。
这个机子需要24x7不间断的运行，稳定可远程调试优先，价格不要太贵。

估计需要至少PCIE 4代x8两个。消费级主板支持拆分的也行，但是消费级主板一般都没有远程调试或者ECC内存，稳定性上有些担忧。使用服务器主板应该可以，但是没有装服务器的经验，也不知道服务器能不能保证这样运行。

板上的大佬们有什么建议么？

hanyou7 · 发表于 2024-1-4 16:08

看看proart z790

HawkQww · 发表于 2024-1-4 16:10

服务器主板和消费级装机没有任何区别，甚至可以装进常规机箱，就正常买来正常用就好了

sinopart · 发表于 2024-1-4 16:18

是要自己组建工作站？
mellanox的板卡看了一下，双口100GbE的一般要求PCIe3.0X16。但考虑到4090本身数据交换速率，主板还是得支持到PCIe4.0才好。
单个4080/4090的话买带远程管理芯片的消费级的主板及配套CPU就行，Z790，W680，X670E这三种芯片组的主板即可，需要注意的是这些芯片组的主板里大多没有远程管理芯片及对应的功能。多卡的话必须上工作站级主板，这种主板一般都配有远程管理芯片。如果使用的程序的算法对CPU算力要求不高，可以买上一代线程撕裂者，3960X配套个TRX40主板。如果对CPU算力有一定要求，建议用三代可拓展至强XEON。

yuweibing · 发表于 2024-1-4 16:21

sinopart 发表于 2024-1-4 16:18
是要自己组建工作站？
mellanox的板卡看了一下，双口100GbE的一般要求PCIe3.0X16。但考虑到4090本身数据交 ...

谢谢，是的，要组一个工作站嵌入到样机里面。应该PCIE 4.0好一些，但是双CPU或者过多PCIE插槽感觉有点浪费。

自己犹豫组装华擎、永擎的，但是对稳定性又没有信心。

sinopart · 发表于 2024-1-4 16:25

yuweibing 发表于 2024-1-4 16:21
谢谢，是的，要组一个工作站嵌入到样机里面。应该PCIE 4.0好一些，但是双CPU或者过多PCIE插槽感觉有点浪 ...

如果可以确认项目在很长一段时间内（8年内）都只需要一张GPU，可以放心上只支持单卡的消费级主板。
目前支持多卡满速的PCIe4.0主板最便宜的就是AMD家的TRX40。

fyc858 · 发表于 2024-1-4 16:32

啥数据要100G啊，我们单位用4090做深度学习数据传出去每秒也就200-300M，GPU占用10%左右，按照满载算，10G的网卡也绰绰有余了

yuweibing · 发表于 2024-1-4 16:34

sinopart 发表于 2024-1-4 16:25
如果可以确认项目在很长一段时间内（8年内）都只需要一张GPU，可以放心上只支持单卡的消费级主板。
目前 ...

1张GPU+1张千兆网。消费级主板可以24x7无间断运行么？荒郊野外的，只能远程监控调试，重启之类的。。。

yuweibing · 发表于 2024-1-4 16:36

fyc858 发表于 2024-1-4 16:32
啥数据要100G啊，我们单位用4090做深度学习数据传出去每秒也就200-300M，GPU占用10%左右，按照满载算，10G ...

前端数据进来是大批量的图片和音频，打包发来的，10G传不下。我们也想着10G够，用ms01都可以了。。。

StevenG · 发表于 2024-1-4 18:18

GPU是涡轮卡，且预算充足，可以找超微的代理，买套准系统

建议柠檬 · 发表于 2024-1-4 18:24

最简单的
单路3647亮机U+个单路主板，大概价格是1XX-2XX+个3500左右

对于需求来说基本够用，成本也比较低

yuweibing · 发表于 2024-1-4 21:36

StevenG 发表于 2024-1-4 18:18
GPU是涡轮卡，且预算充足，可以找超微的代理，买套准系统

哪里有？淘宝上么？请赐教

yuweibing · 发表于 2024-1-4 21:36

建议柠檬发表于 2024-1-4 18:24
最简单的
单路3647亮机U+个单路主板，大概价格是1XX-2XX+个3500左右

对CPU还是有一定的要求的，辅助计算一些东西

StevenG · 发表于 2024-1-4 23:44

yuweibing 发表于 2024-1-4 21:36
哪里有？淘宝上么？请赐教

要是走采购可以去官网找联系方式，要是个人，tb上找个信用高，销量多的就行，看中保修的话，让商家开发票（不过价格肯定会高一些）

建议柠檬 · 发表于 2024-1-5 07:08

yuweibing 发表于 2024-1-4 21:36
对CPU还是有一定的要求的，辅助计算一些东西

100多的亮机U大概是20C/40T 2.5G的水平，够么

JASON879 · 发表于 2024-1-5 08:33

Gigabyte mz32-ar0 了解下

AMD EPYC™ 7002 Series processors
Single processor, 7nm technology
8-Channel RDIMM/LRDIMM DDR4, 16 x DIMMs
2 x 1Gb/s LAN ports (Intel® I350-AM2)
1 x Dedicated management port
2 x SlimSAS for 8 x SATA 6Gb/s ports
4 x SlimSAS for 4 x NVMe ports
2 x M.2 slots with PCIe Gen3 x4 interface
Up to 5 x PCIe Gen4 slots and 2 x PCIe Gen3 slots
1 x OCP 2.0 Gen3 x16 mezzanine slot
Aspeed® AST2500 remote management controller

yuweibing · 发表于 2024-1-5 09:21

JASON879 发表于 2024-1-5 08:33
Gigabyte mz32-ar0 了解下

AMD EPYC™ 7002 Series processors

这个挺好的~~我去搜搜

yuweibing · 发表于 2024-1-5 09:22

建议柠檬发表于 2024-1-5 07:08
100多的亮机U大概是20C/40T 2.5G的水平，够么

这个够了。。。。。。。

建议柠檬 · 发表于 2024-1-5 10:00

yuweibing 发表于 2024-1-5 09:22
这个够了。。。。。。。

嗯100块来说还是可以了

JokerFu · 发表于 2024-1-5 11:08

搭车请教一下什么100g的网卡好用啊现在，2口以上，用在WRX80E-SAGE上

Horo · 发表于 2024-1-5 11:19

搞个联想P620工作站再来个E810网卡加显卡挺好。

yuweibing · 发表于 2024-1-6 22:16

Horo 发表于 2024-1-5 11:19
搞个联想P620工作站再来个E810网卡加显卡挺好。

还是想省点钱。。。

Horo · 发表于 2024-1-7 01:37

yuweibing 发表于 2024-1-6 22:16
还是想省点钱。。。

P620+5945WX 某宝和某鱼上5500左右，网卡E810咸鱼1500，其他就是内存显卡啥的了。还要更低只能几百买E5V4的洋垃圾用了。

yuweibing · 发表于 2024-1-7 21:28

Horo 发表于 2024-1-7 01:37
P620+5945WX 某宝和某鱼上5500左右，网卡E810咸鱼1500，其他就是内存显卡啥的了。还要更低只能几百买E5V4 ...

我去瞅瞅~~

账号		自动登录	找回密码
密码			加入我们

[装机] 请教24x7+GPU+100G网卡装机方案