deep seek完整模型700gb，什么机器可以装512gb以上内存条？

echotoyu

listree 发表于 2025-1-31 21:59
这种机器是不是只对大客户销售

这种都可以代理销售的呀。

listree

Jimmy_Qiu 发表于 2025-1-31 22:38
Gen10 实际支持单条128G的内存，插满就是3T。

还不满足可以看Gen11，理论上可以8T。不过价格会很感人就 ...

这个Gen10么？

机器看着不大，带24个内存插槽么

listree

Jimmy_Qiu 发表于 2025-1-31 22:16
我们HPE DL380 Gen10就上了24条32G内存，共768G。如果用单条64G，就是1.5T了。
如果没那么在意性能，还可以 ...

768G RAM，你是拿来跑大模型么

listree

tenll 发表于 2025-1-31 13:46
我是1t ram，128g单根x8，关键cpu差了一点，只是epyc 7302而已

128g单根你多少钱一根入的？

listree

momo77989724 发表于 2025-1-31 11:55
单路有24槽的  我有一片。。。
700多G现在只用16槽就够了  48GX16  成本应该是比较低的   48G和32G价格就 ...

48G多少钱一根？

momo77989724

listree 发表于 2025-2-1 15:50
48G多少钱一根？

900一根

listree

momo77989724 发表于 2025-2-1 16:52
900一根

48G内存条你哪里买比较好，某宝，还是奶东？

unist

listree 发表于 2025-2-1 15:48
768G RAM，你是拿来跑大模型么

可以集群吖
举点例子

momo77989724

listree 发表于 2025-2-1 17:11
48G内存条你哪里买比较好，某宝，还是奶东？

淘宝啊  
不过我是线下拿的 整盒拆给我的。。。也有淘宝店 淘宝有些他们随便开的  很多东西不挂上去

jaxinoman

油管上有个叫Digital Spaceport的up主，出了几个跑deepseek 671b的配置，今天发了个2000美金低配，可以参考下。

charlie88100

7003的机架服务器啊,最大2t,成本还很低

listree

xjr12000 发表于 2025-1-30 13:47
但是，ollama上的所有的都是蒸馏后的版本，真正的R1原始版好像很大吧，

https://hf-mirror.com/deepseek-ai/DeepSeek-R1/tree/main

这里怎么没有1.3TB的文件？

你的下载链接是什么？

listree

unist 发表于 2025-2-1 17:29
可以集群吖
举点例子

单台机器是否更快一些？为何要分布到7个机器？

jleee

lgblee 发表于 2025-1-30 13:54
X99 ATX 可以 128G*8
MATX 可以 128G*4
ITX 可以 128G*2

不支持吧，x99支持单根128？那就可以128*8

jleee

R5E，R5E10，都是8跟，貌似只支持32G

pingji

listree 发表于 2025-1-30 13:59
模型大小1.3tb，显存96Gb，要14个显卡，什么主板支持插这么多显卡

你买两台这个互联不就行了吗

jleee

nineapple 发表于 2025-1-31 11:22
二手的工作站啊

比如HP Z8G4, 双CPU可以用满配24条内存

问题这样的机器，除了部署慢的要命的deepseek，671B，还能干啥？

listree

lgblee 发表于 2025-1-30 13:54
X99 ATX 可以 128G*8
MATX 可以 128G*4
ITX 可以 128G*2

Xeon不是英特尔么，

有人手英特尔快断气了，你为啥还推荐Xeon呢

listree

xjr12000 发表于 2025-1-30 13:59
能插10张卡也买不起啊，北京一套房了

H200么

listree

pingji 发表于 2025-2-11 14:54
你买两台这个互联不就行了吗

在同一个主板，总线通信速度是不是比网络快很多

listree

jleee 发表于 2025-2-11 14:55
问题这样的机器，除了部署慢的要命的deepseek，671B，还能干啥？

什么配置，才能跑的飞快呢

pingji

listree 发表于 2025-2-11 15:59
在同一个主板，总线通信速度是不是比网络快很多

并没有，走互联都800g/s了，远比总线快得多

listree

pingji 发表于 2025-2-11 16:15
并没有，走互联都800g/s了，远比总线快得多

是通过网线互联，还是通过光纤互联？

chip_discovery

我的服务器主板是mf51-es3，c422芯片组，可以插8条内存条，我64G lrdimm 插满就512了，最大可以插128g lrdimm，8条就1T了。不过缺点就是只有4通道，带宽不够

listree

chip_discovery 发表于 2025-2-11 16:37
我的服务器主板是mf51-es3，c422芯片组，可以插8条内存条，我64G lrdimm 插满就512了，最大可以插128g lrdi ...

你的mf51-es3服务器，配的什么机箱

chip_discovery

listree 发表于 2025-2-11 17:01
你的mf51-es3服务器，配的什么机箱

4U机箱，家里有机柜，选4U是最适合的。
这主板真的神奇，C422是工作站芯片组，支持的也是W系列的工作站处理器，但是主板布局什么的都是按rack服务器来的。配有一个M-LAN能当IPMI用，最骚的就是没有开机PIN，但是主板上板载开机小按钮，估计是啥定制的型号吧，
但是又是工作站主板的套路，PCIE有一个专门的供电插口，不插PCIE全没法用。
ES0、1、2 网上都有型号，3但是搜不到。

williamqh

个人配个这样的机器太浪费了，又不是24小时需要使用。公司差不多。

lgblee

listree 发表于 2025-2-11 15:57
Xeon不是英特尔么，

有人手英特尔快断气了，你为啥还推荐Xeon呢

老平台可以干嘛不干，还是ITX，你EPYC组一台ITX看看

longpowercn

必须要服务器啊，1U 2U 随意选，不怕噪音，功耗就可以