普通研究牲的微矿炼丹炉
本帖最后由 nikoncopd850 于 2025-5-24 11:54 编辑BG：CV小作坊硕士在读，组里人均一张RTX 3090 24G+一张Tesla V100 32G PCIE的配置完全不能满足我冲顶会和打比赛的炼丹需求，导师明确无法报销算力租赁费用。考虑到长期租赁成本比自己购置成本(就算折损50%)+电费成本高，且顶会DDL前租赁平台一卡难求，因此准备自组廉价炼丹炉。
首先明确需求：整机预算2.5w内，FP32算力高+省电。因此考虑的卡集中于民用卡，A系列计算卡太贵，上一代V100蒟蒻的14-15.7TFLOPS算力完全不在考虑范围之内，2080Ti 22G也仅有13.45T，pass。
GPUGRAMFP32全新涡轮低价算价比风扇低价风扇算价比二手价格二手算价比
4090 48G4882.58208000.00397019
#DIV/0!
#DIV/0!
4090D 48G4873.54183990.00399696
#DIV/0!
#DIV/0!
509032104.88
#DIV/0!
#DIV/0!
#DIV/0!
5090D32104.88
#DIV/0!220000.0047673
#DIV/0!
40902482.58214690.00384648
#DIV/0!
#DIV/0!
4090D2473.54167990.00437764
#DIV/0!
#DIV/0!
3090Ti244099000.0040404
#DIV/0!72000.0055556
30902435.5884500.00421065
#DIV/0!
#DIV/0!
3080 20G2029.7736690.00811393
#DIV/0!
#DIV/0!
50801656.34
#DIV/0!82990.0067888
#DIV/0!
4080S1652.2288990.0058680869390.007525669390.0075256
4080164986500.00566474
#DIV/0!67000.0073134
4070Ti S1644.159500.0074117653490.008244552000.0084808
5070Ti1643.94
#DIV/0!62990.0069757
#DIV/0!
4060Ti 16G1622.0639990.0055163829890.007380431000.0071161
经过一通市场调研(3月底)，FP32算价比最高的4070Ti Super成为了首选。在平台上我选择了二手ALEO 6卡X99矿机，原因有三：
1.4条PCIE3.0x16和两条PCIE3.0x8，相比民用X99主板支持的PCIE更多；
2.支持安装3槽位的民用显卡，不必购买难出手涡轮卡；
3.比超微7048及类似的原厂4GPU方案便宜得多，主板+散热+机箱加上运费不到400的价格，香！使用服务器电源和ECC内存，配件价格低！
最终配置如下：
CPU：2*2690v4
DRAM：8*16G 2R*4 2400 ECC
GPU：4*4070Ti SuperPower：EPW3000-12A
以上花费总计22284.02，为了稳定性抛弃了矿电+转接线的组合，二手平台上随便找了个卖家买了改好的华为电源。
SSD：PM1725b 3.2T AIC（个人库存）
这应该是预算内的最佳方案了，遂发出来供参考。
题外话：
估计是因为矿机主板上显卡被暴力拆卸，有一个x16接口信号不稳定，一上压力就崩溃，因此换到多的一条x8通道上。
真不错！高性价比神机 感谢汇总
这么看算价比最高的应该是3080 20G吧, 现在3.2k一张
有主板可以支持双槽 4卡的话 当年的矿渣还是有用武之处的
比如说我有个NAS就是8卡B85改的。。。X1随便转接点嘛的就够用了 我们组太穷了8个人分两张a100四张4090[困惑] DIY精神[偷笑] steel911 发表于 2025-5-24 12:23
感谢汇总
这么看算价比最高的应该是3080 20G吧, 现在3.2k一张
3080 20G确实还行，除了寿命可能短一些，至于16G的都不推荐，除非只是随便玩玩，可以买2张16G的50系，买有2个5.0口的主板[偷笑] Mratom 发表于 2025-5-24 13:00
我们组太穷了8个人分两张a100四张4090
看做什么鸭，LLM方向，这6张卡太磕碜
如果如楼主CV方向，每人一张48G的4090，还能凑合
读研阶段发论文，CV方向，48G 4090足够了 8owd8wan 发表于 2025-5-24 14:01
看做什么鸭，LLM方向，这6张卡太磕碜
如果如楼主CV方向，每人一张48G的4090，还能凑合
读研阶段发论文，C ...
哈哈哈还真被你说中了 我们做CV的 电费也不给报销吗 做CV项目，标配3x4090 24G, or 2x5090 32G, or其他专业计算卡（FP32算力>200），再或者上传学校cluster（计算集群）机房，自己花20K+也真是难为学生党了，好在你这套配置4张4070tiS，显卡一年后至少可以回血70%甚至更多，其他配置算折价一半，也不会亏太多，很棒的节俭配置，基本属于无敌了 steel911 发表于 2025-5-24 12:23
感谢汇总
这么看算价比最高的应该是3080 20G吧, 现在3.2k一张
是的，但稳定性不知道怎样，现在买4070TiS二手还可以有两年左右质保 jaycty 发表于 2025-5-24 12:20
真不错！高性价比神机
[狂笑]要是组里有钱也不至于破费了[失望] 建议柠檬 发表于 2025-5-24 12:49
当年的矿渣还是有用武之处的
比如说我有个NAS就是8卡B85改的。。。X1随便转接点嘛的就够用了 ...
不吃带宽的应用场景确实可以[偷笑] Mratom 发表于 2025-5-24 13:00
我们组太穷了8个人分两张a100四张4090
这哪穷了，一张4090按FP32算力来说相当于两张多3090，A100就更不用说了[困惑] natt 发表于 2025-5-24 13:46
DIY精神
捡垃圾精神[偷笑] nikoncopd850 发表于 2025-5-25 21:48
不吃带宽的应用场景确实可以
接的都是摄像头[偷笑] 8owd8wan 发表于 2025-5-24 14:01
看做什么鸭，LLM方向，这6张卡太磕碜
如果如楼主CV方向，每人一张48G的4090，还能凑合
读研阶段发论文，C ...
CV部分方向现在也很吃卡，很多SOTA都是八卡A100、A800刷出来的，之前打比赛有个组甚至用了DGX H100的机柜finetune。至于LLM，部分小方向一两张A100就能做，不能一概而论。 eliz 发表于 2025-5-24 20:42
电费也不给报销吗
放家里了，不是实验室的机器不能托管，电费只能自付了 enolc 发表于 2025-5-24 21:39
做CV项目，标配3x4090 24G, or 2x5090 32G, or其他专业计算卡（FP32算力>200），再或者上传学校cluster（计 ...
穷组，没办法只好自己上喽，谢谢回帖！ 建议柠檬 发表于 2025-5-25 21:52
接的都是摄像头
那确实够用[偷笑] nikoncopd850 发表于 2025-5-25 21:53
CV部分方向现在也很吃卡，很多SOTA都是八卡A100、A800刷出来的，之前打比赛有个组甚至用了DGX H100的机柜 ...
另外一个是多模态方向，那自然卡越多越好。
当然，不仅仅多模态，现在啥都往Transformer上靠，各种论文为了那点儿无法验证的百分点，越来越无聊。
也是性价比科研的好兄弟[偷笑]
我组拿三代志强的cpu服务器让我调yolo写torch搞2D对象定位和识别，老板还觉得怎么会不够用，恼火
llm反正我做应用到各个api供应商还有中国科技云那边去化缘[困惑] 跑起来对CPU也有点负载吧。。。CPU太弱有时候会影响点速度 Mratom 发表于 2025-5-24 13:00
我们组太穷了8个人分两张a100四张4090
有得分就不错了特别是学校里 。。。
有的公司都没得分A100 4090 steel911 发表于 2025-5-24 12:23
感谢汇总
这么看算价比最高的应该是3080 20G吧, 现在3.2k一张
不是2080ti22G么·· SuperBeaver 发表于 2025-5-27 11:45
也是性价比科研的好兄弟
我组拿三代志强的cpu服务器让我调yolo写torch搞2D对象定位和识别，老板还觉得怎么 ...
推理无所谓 CPU训练太折磨了 momo77989724 发表于 2025-5-27 11:51
跑起来对CPU也有点负载吧。。。CPU太弱有时候会影响点速度
那肯定，代码支持多核负载就会上去。这CPU的主要作用是PCIE集线器，哈哈。 ruo101 发表于 2025-5-27 11:56
不是2080ti22G么··
2080Ti那点破算力压根上不了桌，个人玩家推理推理大模型得了 臭打游戏的，玩不来哈哈
页:
[1]