AI MAX 395+ 128G内存 跑分及游戏实测，转自B站

hen8899

【AI 395迷你主机，96G显存，4060级核显，部署70B大模型！六联智能AXB35-02测评-哔哩哔哩】 https://b23.tv/h4UAoIi

b站给抢跑了，哈哈哈

townkiller

32b，token 3，这种肯定不是最优解
目前看到最适合小型企业的是清华的单显卡新改进，跑671b

allensakura

3t/s，有点拉跨.....

foxsheep

内存性能拉了，感觉下一代IOD也完犊子了

playclan

lpddr这玩意跟性能就没半毛钱关系

allensakura

foxsheep 发表于 2025-2-13 23:00
内存性能拉了，感觉下一代IOD也完犊子了

这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下

DDK350

感觉被营销了

mhmddb

allensakura 发表于 2025-2-13 22:59
3t/s，有点拉跨.....

爆显存了，32G+96G的配置，up说直接爆内存了，现存占用是70G，他跑时候64+64的配置。

Montelucast

它测的64G的，爆了

foxsheep

allensakura 发表于 2025-2-13 23:03
这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下

不止是延迟啊，读砍半，写也只有理论峰值80%

playclan

foxsheep 发表于 2025-2-13 23:41
不止是延迟啊，读砍半，写也只有理论峰值80%

lpddr的时序也是逆天时序

klxq15

1w内还能买到么

Scarlet〃

klxq15 发表于 2025-2-14 00:11
1w内还能买到么

395想1w以内？等个一两年再说吧

bennq

读砍半,又是 16B的带宽,下代iod也好不了!

我輩樹である

这是统一架构，但有可能windows没见过，所以爆显存的时候llama.cpp还在哼哧哼哧的swap “内存”和“显存”，虽然是同构下进行，但还是会造成一点卡顿。可能就是功耗有时候掉到10w的缘故。

klxq15

bennq 发表于 2025-2-14 00:24
读砍半,又是 16B的带宽,下代iod也好不了!

读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有

liolio

正好零刻官博那也放出了64G情况下的DS测试（显存设定成48G） 可惜U比较弱是4+8的370

14BQ8也就6token/s

Ps 像huihui调的70BQ4大小也才40.1G按说也是能跑的 就是不知道速度能不能破1

久坐花落多

满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右 ，如果个想玩ai模型还是苹果机器性价比高点

kenbox

这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热

声色茶马

刚刷到这个视频。感觉amd这个cpu GPU统一寻址的思路有望大放异彩。毕竟显存容量是现在的瓶颈和刚需，比GPU性能急多了。而皮衣奸商的显卡又特别喜欢卡显存容量的脖子。眼看手机都能跑的模型他的显卡都跑不了。

ccbost863

久坐花落多 发表于 2025-2-23 23:44
满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右 ，如果个想玩ai模型还是苹果机器性价比高点 ...

确实，想买个32g的mac mini，跑跑14b做个人知识库，不知道合不合适

pingji

3token也太拉胯了一点

fluttershy

读砍半 那zen6岂不是.....

KazamiKazuki

klxq15 发表于 2025-2-14 00:37
读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有

CPU带宽一直是残的啊。对GPU又莫得影响

FelixIvory

kenbox 发表于 2025-2-24 08:25
这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热 ...

关键是尼玛都这个价格了，竟然全配置都只给1t。

yuwl3000

啥机器给 128g 的内存