找回密码
 加入我们
搜索
      
查看: 667|回复: 9

[CPU] 请教:根据内存读取带宽速度选择cpu平台,求推荐。

[复制链接]
发表于 2025-10-23 15:20 | 显示全部楼层 |阅读模式
近期对炼丹有点上头,之前折腾完了双显卡,发现那么点显存还是杯水车薪,现在重点是想弄高带宽内存,用内存或者内存混合显存来跑moe模型,主要是还千问3 30b a3b和千问3 next 80b a3b,这两个模型因为激活参数只有3b,所以是天生混合推理圣体。
经过咨询专业人士,问ai,了解到内存读取带宽速度是决定内存跑混合推理以及纯cpu推理的速度瓶颈,消费级平台内存只有双通道,这个数能达到100g/s就已经很不容易了。
但是经过观察,似乎am5(ddr4频率太低,直接不考虑了)除了部分双ccd的顶级处理器,其他的无论是7500f 9600x 9700x还是8400f,内存带宽速度都明显要比intel低一截,我看很多12,13,14带的u,都可以跑到接近100,amd基本是60-70,超冒烟也就80。
想问下,如果不考虑游戏,不在乎延迟,只追求内存读取带宽,是不是12-14代带K处理器是最佳选择?有没有具体推荐型号?或者便宜的魔改平台也可以,主打一个性价比,内存因为买的大容量48gx2玖合星域5600c46,也不考虑超频。
新手首次发帖,各位彦祖多指导指导,感谢!
wechat_2025-10-23_151554_898.png
发表于 2025-10-23 15:23 | 显示全部楼层
内存跑 jedec 不超频哪个 msdt 平台都没区别的
发表于 2025-10-23 15:24 | 显示全部楼层
epyc平台?六通道八通道起飞
 楼主| 发表于 2025-10-23 15:47 | 显示全部楼层
miu9889 发表于 2025-10-23 15:24
epyc平台?六通道八通道起飞

服务器平台不考虑了,不想搞太多机子。而且现在服务器内存价格涨的更加离谱,炼丹佬们都想卖显存买显卡了……
发表于 2025-10-23 16:06 | 显示全部楼层
幻X 2025 128g可以玩玩,适用很多场景,把场景重合的机器处理掉。就是价格确实偏贵了
发表于 2025-10-23 21:43 | 显示全部楼层
不考虑超频很难发挥出优势。。。现在也没太多jedec6400的内存,但是有很多可以轻松8000的内存
发表于 2025-10-23 22:05 | 显示全部楼层
上四通道桌面平台,带宽翻倍。
发表于 2025-10-24 09:47 来自手机 | 显示全部楼层
你都打算CPU炼了,MSDT人均128bit为了确保稳定性你大概率还要跑JEDEC频率某些四槽主板插满四根大容量还得进一步调低内存频率,不上服务器能看?
发表于 2025-10-24 10:55 | 显示全部楼层
那就INTEL + DDR5 7200
发表于 2025-10-24 11:54 | 显示全部楼层
推荐Ultra 200。
我只用过GPU跑模型,感觉CPU这边只吃单核性能;
15代取消了超线程,理论上性能更高一点,并且内存支持更好一点。
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-10-24 15:45 , Processed in 0.009024 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表