godspeed66 发表于 2023-6-17 23:17
我跑LLM微调的，CPU再快也比GPU慢非常非常多
我都后悔买这么高端的CPU ，即使优化后性能也就那样 ...
追着楼主rtx a6000和 rtx 6000 ada的贴到这里。同玩LLM，但是显卡只能到4090了，所以主要就是推理，微调的需求也不大，13b开始的模型都不能fp16了，所以还是差一些，但是对4090功耗比满意，办公室很安静不热（atx机箱）。一个问题是关于cpu的，对于我这样的需求目前我的11900es是否能持续满足要求，cpuz单核600不到点，多核5600不到一点。目前好像只有才带入文件建立向量数据库的时候短时间占用可以70%-100%。谢谢。 q3again0605 发表于 2023-7-18 16:14
追着楼主rtx a6000和 rtx 6000 ada的贴到这里。同玩LLM，但是显卡只能到4090了，所以主要就是推理，微调 ...
建议再观察下
等RTX4090的fp8性能发挥出来，再看看
经过测试发现 CPU明显过配，https://www.chiphell.com/thread-2533776-1-1.html
因此降配中，3495X已出咸鱼
godspeed66 发表于 2023-6-17 14:02
X风冷
选这个机箱，每次清洁防尘网都得拆装螺丝啊 godspeed66 发表于 2023-6-17 14:03
长城N20 2000瓦电源
垃圾电源
供电质量时很好的
就是用了四个月后，电源风扇噪音太大了 收藏了 手上拆了两个 2643v4 还没用，可以来抄下作业。。。 目前基本就asus的w790系列能满载，其他基本没戏，更别提超频了，必须是水冷，360肉夹馍或者420，abee的也行
godspeed66 发表于 2023-6-17 20:26
https://www.ithome.com/0/700/060.htm
“IT之家 6 月 15 日消息，英特尔现已推出新一代至强 W-2400 和...
华擎这个板子，还有华硕的ACE，都只支持四通道内存，
8通道内存得上SAGE 底部两个黑色猫扇, 跟右边两个原色换一下, 感觉更好看点 fcys 发表于 2023-6-17 22:02
这个吗？
另外，你要跑这功耗，直接用abee那水冷就行了，比风冷要强太多了，估计750w也就70度 ...
求主板购买方式
找商家咨询，完全找不到卖的[晕倒] godspeed66 发表于 2023-11-21 15:45
求主板购买方式
找商家咨询，完全找不到卖的
刚看到，这板子到现在还没出货吧
总起来说不错，供电比supermicro强
另外体型一下，这板子不是MATX啊 fcys 发表于 2023-11-29 11:49
刚看到，这板子到现在还没出货吧
总起来说不错，供电比supermicro强
嗯嗯 谢谢注意到主板的大小了，正是我需要的
页:
1
[2]