listree 发表于 2025-1-31 21:59
这种机器是不是只对大客户销售
这种都可以代理销售的呀。
Jimmy_Qiu 发表于 2025-1-31 22:38
Gen10 实际支持单条128G的内存，插满就是3T。
还不满足可以看Gen11，理论上可以8T。不过价格会很感人就 ...
https://static.chiphell.com/forum/202207/16/223406p0cz2j2i6q6j425n.jpeg
这个Gen10么？
机器看着不大，带24个内存插槽么[吃惊]
Jimmy_Qiu 发表于 2025-1-31 22:16
我们HPE DL380 Gen10就上了24条32G内存，共768G。如果用单条64G，就是1.5T了。
如果没那么在意性能，还可以 ...
768G RAM，你是拿来跑大模型么[偷笑]
tenll 发表于 2025-1-31 13:46
我是1t ram，128g单根x8，关键cpu差了一点，只是epyc 7302而已
128g单根你多少钱一根入的？
momo77989724 发表于 2025-1-31 11:55
单路有24槽的我有一片。。。
700多G现在只用16槽就够了48GX16成本应该是比较低的 48G和32G价格就 ...
48G多少钱一根？
listree 发表于 2025-2-1 15:50
48G多少钱一根？
900一根
momo77989724 发表于 2025-2-1 16:52
900一根
48G内存条你哪里买比较好，某宝，还是奶东？
listree 发表于 2025-2-1 15:48
768G RAM，你是拿来跑大模型么
可以集群吖
举点例子
listree 发表于 2025-2-1 17:11
48G内存条你哪里买比较好，某宝，还是奶东？
淘宝啊
不过我是线下拿的 整盒拆给我的。。。也有淘宝店 淘宝有些他们随便开的很多东西不挂上去
油管上有个叫Digital Spaceport的up主，出了几个跑deepseek 671b的配置，今天发了个2000美金低配，可以参考下。
7003的机架服务器啊,最大2t,成本还很低
xjr12000 发表于 2025-1-30 13:47
但是，ollama上的所有的都是蒸馏后的版本，真正的R1原始版好像很大吧，
https://hf-mirror.com/deepseek-ai/DeepSeek-R1/tree/main
这里怎么没有1.3TB的文件？
你的下载链接是什么？
unist 发表于 2025-2-1 17:29
可以集群吖
举点例子
单台机器是否更快一些？为何要分布到7个机器？
lgblee 发表于 2025-1-30 13:54
X99 ATX 可以 128G*8
MATX 可以 128G*4
ITX 可以 128G*2
不支持吧，x99支持单根128？那就可以128*8
R5E，R5E10，都是8跟，貌似只支持32G
listree 发表于 2025-1-30 13:59
模型大小1.3tb，显存96Gb，要14个显卡，什么主板支持插这么多显卡
你买两台这个互联不就行了吗
nineapple 发表于 2025-1-31 11:22
二手的工作站啊
比如HP Z8G4, 双CPU可以用满配24条内存
问题这样的机器，除了部署慢的要命的deepseek，671B，还能干啥？
lgblee 发表于 2025-1-30 13:54
X99 ATX 可以 128G*8
MATX 可以 128G*4
ITX 可以 128G*2
Xeon不是英特尔么，
有人手英特尔快断气了，你为啥还推荐Xeon呢[可爱]
xjr12000 发表于 2025-1-30 13:59
能插10张卡也买不起啊，北京一套房了
H200么[困惑]
pingji 发表于 2025-2-11 14:54
你买两台这个互联不就行了吗
在同一个主板，总线通信速度是不是比网络快很多[困惑]
jleee 发表于 2025-2-11 14:55
问题这样的机器，除了部署慢的要命的deepseek，671B，还能干啥？
什么配置，才能跑的飞快呢[困惑]
listree 发表于 2025-2-11 15:59
在同一个主板，总线通信速度是不是比网络快很多
并没有，走互联都800g/s了，远比总线快得多
pingji 发表于 2025-2-11 16:15
并没有，走互联都800g/s了，远比总线快得多
是通过网线互联，还是通过光纤互联？
我的服务器主板是mf51-es3，c422芯片组，可以插8条内存条，我64G lrdimm 插满就512了，最大可以插128g lrdimm，8条就1T了。不过缺点就是只有4通道，带宽不够
chip_discovery 发表于 2025-2-11 16:37
我的服务器主板是mf51-es3，c422芯片组，可以插8条内存条，我64G lrdimm 插满就512了，最大可以插128g lrdi ...
你的mf51-es3服务器，配的什么机箱[困惑]
listree 发表于 2025-2-11 17:01
你的mf51-es3服务器，配的什么机箱
4U机箱，家里有机柜，选4U是最适合的。
这主板真的神奇，C422是工作站芯片组，支持的也是W系列的工作站处理器，但是主板布局什么的都是按rack服务器来的。配有一个M-LAN能当IPMI用，最骚的就是没有开机PIN，但是主板上板载开机小按钮，估计是啥定制的型号吧，
但是又是工作站主板的套路，PCIE有一个专门的供电插口，不插PCIE全没法用。
ES0、1、2 网上都有型号，3但是搜不到。
个人配个这样的机器太浪费了，又不是24小时需要使用。公司差不多。
listree 发表于 2025-2-11 15:57
Xeon不是英特尔么，
有人手英特尔快断气了，你为啥还推荐Xeon呢
老平台可以干嘛不干，还是ITX，你EPYC组一台ITX看看
必须要服务器啊，1U 2U 随意选，不怕噪音，功耗就可以