lh0ngfu 发表于 2024-8-1 20:00
太强了，已经听到电表倒转的声音了hhhh
空载整套扩展大约是300瓦
wengong8 发表于 2024-8-1 20:03
空载整套扩展大约是300瓦
昂昂，那几个 GPU 估计是吃电大头，SXM 的版本供电是不是更强？
20个m2真的全插上能跑出多高的速度啊，很向往
加预算 发表于 2024-8-1 21:44
20个m2真的全插上能跑出多高的速度啊，很向往
8796有个佬跟我同时发帖的用到了，去那边问吧
这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？
这种一般不是工作中才用？比如这种用来debug的:
过于阴间，可以展示.jpg
这个厉害了~~~
一日 发表于 2024-8-2 05:16
这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？
这种一般不是工作中才用？比如这种用来debug的:
意义是你这是公家的，我的是个人所有的。而且我只拿1%的预算就玩出了大部分效果
壕， 不过这玩意儿是不是得住在冰箱里， 要不然这家里不是冬暖夏热吗？
xunisa 发表于 2024-8-2 12:15
壕， 不过这玩意儿是不是得住在冰箱里， 要不然这家里不是冬暖夏热吗？
不会，不需要冰箱，而且整体很安静。很反直觉，因为本文的扩展柜方案各个模块是单独进风，显卡没有吃cpu/硬盘的尾气，散热效率意外比机架式GPU服务器高了不少
“丧心病狂”变成了褒义词[恶魔]
太强了！一直在看相关内容，主要是在考虑双卡3090Ti+nvlink和四卡V100准系统，没想到还可以做混合！
最近也在研究LLM，不过目前跑的都是YOLOv8的小东西，感觉家里的3080也勉强凑合
sheepy 发表于 2024-8-2 15:26
最近也在研究LLM，不过目前跑的都是YOLOv8的小东西，感觉家里的3080也勉强凑合 ...
我入门也是拿台式机跑，但是win/linux双系统太麻烦了，grub引导还被我搞炸了，还得是宿主pve的gpu服务器体验丝滑
看不懂但大为震撼！
除了显存小一点，别的没毛病啊。
pmax 发表于 2024-8-2 18:35
除了显存小一点，别的没毛病啊。
108G总量还小啊
不太懂这种比租用GPU的方式的优势在哪里。。
microk 发表于 2024-8-3 21:37
不太懂这种比租用GPU的方式的优势在哪里。。
租GPU确实挺省事的，就像租车开，但车永远不是自己的。租来的车不能改不能碰，灵活性远不如自己拥有一台车，真以为靠着Docker云GPU就能玩出名堂了？也许只有不断租用别人的东西，才会觉得自己什么都拥有了吧
太顶了，2万预算弄出六卡！！！
一日 发表于 2024-8-2 05:16
这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？
这种一般不是工作中才用？比如这种用来debug的:
楼主为我国AI算力反制裁事业做出了力所能及的贡献
太厉害了吧，就是普通家庭装修的埋线估计顶不住这功率。
有没有一个最终方案的连接示意图，图片前后没有太看懂，非常感谢！
wengong8 发表于 2024-8-1 12:58
混合精度800多T相当于一张pcie版h100
那意思是花2W达到了20W的效果？
这个的确太厉害了
V100 sxm2和pcie 16G版，我记得过年前就800块钱一张，后面涨的翻倍了
来看看高端玩家
T3-DiDi 发表于 2024-8-6 16:21
那意思是花2W达到了20W的效果？
如果需求是微调大模型那确实是这样
liangns 发表于 2024-8-6 16:08
有没有一个最终方案的连接示意图，图片前后没有太看懂，非常感谢！
麻烦看下首图，v100套件最下边，pcie显卡中间夹着，主机最上边
牛啊
价格居然没有十分离谱~~