Chiphell - 分享与交流用户体验

标题: AI MAX 395+ 128G内存跑分及游戏实测，转自B站 [打印本页]

作者: hen8899 时间: 2025-2-13 22:47
标题: AI MAX 395+ 128G内存跑分及游戏实测，转自B站
【AI 395迷你主机，96G显存，4060级核显，部署70B大模型！六联智能AXB35-02测评-哔哩哔哩】 https://b23.tv/h4UAoIi

b站给抢跑了，哈哈哈

作者: townkiller 时间: 2025-2-13 22:54
32b，token 3，这种肯定不是最优解
目前看到最适合小型企业的是清华的单显卡新改进，跑671b

作者: allensakura 时间: 2025-2-13 22:59
3t/s，有点拉跨.....

作者: foxsheep 时间: 2025-2-13 23:00
内存性能拉了，感觉下一代IOD也完犊子了

作者: playclan 时间: 2025-2-13 23:02
lpddr这玩意跟性能就没半毛钱关系

作者: allensakura 时间: 2025-2-13 23:03

foxsheep 发表于 2025-2-13 23:00
内存性能拉了，感觉下一代IOD也完犊子了

这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下

作者: DDK350 时间: 2025-2-13 23:07
感觉被营销了

作者: mhmddb 时间: 2025-2-13 23:10

allensakura 发表于 2025-2-13 22:59
3t/s，有点拉跨.....

爆显存了，32G+96G的配置，up说直接爆内存了，现存占用是70G，他跑时候64+64的配置。

作者: Montelucast 时间: 2025-2-13 23:11
它测的64G的，爆了

作者: foxsheep 时间: 2025-2-13 23:41

allensakura 发表于 2025-2-13 23:03
这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下

不止是延迟啊，读砍半，写也只有理论峰值80%

作者: playclan 时间: 2025-2-13 23:52

foxsheep 发表于 2025-2-13 23:41
不止是延迟啊，读砍半，写也只有理论峰值80%

lpddr的时序也是逆天时序

作者: klxq15 时间: 2025-2-14 00:11
1w内还能买到么

作者: Scarlet〃 时间: 2025-2-14 00:18

klxq15 发表于 2025-2-14 00:11
1w内还能买到么

395想1w以内？等个一两年再说吧

作者: bennq 时间: 2025-2-14 00:24
读砍半,又是 16B的带宽,下代iod也好不了!

作者: 我輩樹である 时间: 2025-2-14 00:36
这是统一架构，但有可能windows没见过，所以爆显存的时候llama.cpp还在哼哧哼哧的swap “内存”和“显存”，虽然是同构下进行，但还是会造成一点卡顿。可能就是功耗有时候掉到10w的缘故。

作者: klxq15 时间: 2025-2-14 00:37

bennq 发表于 2025-2-14 00:24
读砍半,又是 16B的带宽,下代iod也好不了!

读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有

作者: liolio 时间: 2025-2-15 15:40
正好零刻官博那也放出了64G情况下的DS测试（显存设定成48G）可惜U比较弱是4+8的370

14BQ8也就6token/s

Ps 像huihui调的70BQ4大小也才40.1G按说也是能跑的就是不知道速度能不能破1

作者: 久坐花落多 时间: 2025-2-23 23:44
满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右，如果个想玩ai模型还是苹果机器性价比高点

作者: kenbox 时间: 2025-2-24 08:25
这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热

作者: 声色茶马 时间: 2025-2-24 12:24
刚刷到这个视频。感觉amd这个cpu GPU统一寻址的思路有望大放异彩。毕竟显存容量是现在的瓶颈和刚需，比GPU性能急多了。而皮衣奸商的显卡又特别喜欢卡显存容量的脖子。眼看手机都能跑的模型他的显卡都跑不了。

作者: ccbost863 时间: 2025-2-25 13:27

久坐花落多发表于 2025-2-23 23:44
满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右，如果个想玩ai模型还是苹果机器性价比高点 ...

确实，想买个32g的mac mini，跑跑14b做个人知识库，不知道合不合适

作者: pingji 时间: 2025-2-25 13:30
3token也太拉胯了一点

作者: fluttershy 时间: 2025-2-25 13:32
读砍半那zen6岂不是.....

作者: KazamiKazuki 时间: 2025-2-25 15:54

klxq15 发表于 2025-2-14 00:37
读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有

CPU带宽一直是残的啊。对GPU又莫得影响

作者: FelixIvory 时间: 2025-2-25 18:20

kenbox 发表于 2025-2-24 08:25
这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热 ...

关键是尼玛都这个价格了，竟然全配置都只给1t。

作者: yuwl3000 时间: 2025-2-25 18:51
啥机器给 128g 的内存

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)