华硕工作站主板Pro WS W790E-SAGE SE

ts3500

HM_WU 发表于 2025-3-1 23:48
ai这方面感觉还是内存带宽>AMX加速吧
不过EPYC糟糕的兼容性和核间延迟成为了我选Xeon的原因
单核起码算是12 ...

昨晚用ollama 运行了量化的671 每秒3个字左右  加载极慢  70b就轻松多了  把ktransformers 部署上 估计能到5~8 个字 够用了

os39000

HM_WU 发表于 2025-3-1 22:38
3465x 4.7G可以参考一下 不过由于只插了双通道 而且开了Hyper-V 所以有一点损失 ...

28核浮点就挺强了，差不多60核8581的75%。

zaiail

为啥不等XEON 6呢，Granite Rapids应该比Sapphire Rapids强不少吧

ts3500

zaiail 发表于 2025-3-2 08:47
为啥不等XEON 6呢，Granite Rapids应该比Sapphire Rapids强不少吧

我也想等呀  岁月不等我呀 用上2年回了本儿再考虑升级

zaiail

ts3500 发表于 2025-3-2 08:48
我也想等呀  岁月不等我呀 用上2年回了本儿再考虑升级

我用的超微的X13SWA那块板子，然后U用的“PCIE通道发生器”W5-3423，现在就等xeon 6铺货了之后换个xeon 6了。
BIOS里面带星号的应该是体质好的核心，你关掉之后全核频率上去了应该是不同核心数量会有不同的全核负载频率，核心越少频率就越高。

ts3500

zaiail 发表于 2025-3-2 08:59
我用的超微的X13SWA那块板子，然后U用的“PCIE通道发生器”W5-3423，现在就等xeon 6铺货了之后换个xeon 6 ...

谢谢  我现在最愁的是 超内存的选项没有 ，内存能上去 其他就不想了 昨天运行ollama，cpu没用到百分百  内存到了380多 ，优化内存后，基本也就这样了  

HM_WU

os39000 发表于 2025-3-2 08:36
28核浮点就挺强了，差不多60核8581的75%。

因为超的比较高 我之前全核超到最高5.1应该会更好一点

HM_WU

HM_WU 发表于 2025-3-2 10:26
因为超的比较高 我之前全核超到最高5.1应该会更好一点

我对超频稳定要求是P95一小时不降频过测 最高通过的是5.1g
其实3400的u好像普遍都能上5g 电压稍高一点 不过还是怕缩肛 所以4.7 4.8算是优解吧

HM_WU

zaiail 发表于 2025-3-2 08:47
为啥不等XEON 6呢，Granite Rapids应该比Sapphire Rapids强不少吧

贵啊 平台和u都更贵 而且都没得超频 全核频率低

ts3500

HM_WU 发表于 2025-3-2 10:32
贵啊 平台和u都更贵 而且都没得超频 全核频率低

短消息受限了 非常感谢！

momo77989724

zaiail 发表于 2025-3-2 08:47
为啥不等XEON 6呢，Granite Rapids应该比Sapphire Rapids强不少吧

6哪里买得起   
他这一套平台大概都换不到一颗正式版的至强6  还不是6900P 只是67的4710系。。。

正式版降到能接受的程度 要年底起码。。。

momo77989724

有一点忘记提醒你了  别用海备斯的扩展坞  这玩意和华硕板子冲突 用一段时间  可能卡开机自检。。。。

ts3500

momo77989724 发表于 2025-3-2 22:07
有一点忘记提醒你了  别用海备斯的扩展坞  这玩意和华硕板子冲突 用一段时间  可能卡开机自检。。。。 ...

谢谢 ！送售后检测了，不行就 黄鱼买了，换个3465x

不足道

帮顶一下，小黄鱼买了一个还在研究

ts3500

不足道 发表于 2025-3-4 00:07
帮顶一下，小黄鱼买了一个还在研究

确定了  是cpu的问题 一定要买带x的 不然内存也白瞎了