AMD AI MAX+ 395AI的核显AI算力比rtx50系列高吗?
AMD AI MAX+ 395AI的核显可以使用96g内存作为显存, 那么这个核显的AI 算力比rtx50系列的显卡高很多,是吗?刚接触到AI 大模型, 不太了解这一块, 所以问问大家. 我也好奇,所以帮你问了下豆包:
在运行 DeepSeek 70B 模型时,RTX 5090 和 AMD AI MAX+ 395 各有优势。
从生成速度来看,RTX 5090 表现更优。实测数据显示,RTX 5090 在 DeepSeek R1-70B 模型上的生成速度达 45 tokens/s。而 AMD AI MAX+ 395 运行 DeepSeek R1 llama 70B 的生成速度为 3.55 tok/sec,运行 DeepSeek R1 qwen 32b 的速度为 8.91 tok/sec。不过,AMD AI MAX+ 395 在运行内存密集型的 AI 任务时,拥有高达 128GB 的统一内存,可将其中高达 96GB 分配为 VRAM。而 RTX 5090 的显存只有 32GB,在一些对显存容量要求极高的场景下可能会受到限制。 这样看来,5090的32GB显存的算力,要远远大于395AI的算力。 并不是,395的ai算力和显存带宽都不如5090,但显存容量大,在你的模型+上下文大于32G(或许更大一些)的时候,综合带宽就比5090大了(因为5090只有32G显存,大于32G的部分受限于pcie带宽了),这种情况下5090会受限于带宽导致ai性能骤减。
不过还有一点,其实395在跑这么大模型的时候速度也很慢,几乎不可用,395比较适合跑moe模型。(需要大显存,但算力需求小) 小水管超高流速VS大水管小流速 除非爆显存。。。不然完全不是一个量级的。。。。。 你问算力啊?什么水管不水管的,那不叫算力。算力就是FLOPS,至于是FP32的还是FP16的甚至FP4的都行,只要是同一标准对比即可。
395更类似DGX Spark
https://www.youtube.com/watch?v=Pww8rIzr1pg
成绩也基本上就是256bit 8533对256bit 9500的差距 5090显存是1.7T带宽,395是200G带宽,你说呢 用脚指头想也知道5090吊打核显 af_x_if 发表于 2025-10-18 15:43
395更类似DGX Spark
https://www.youtube.com/watch?v=Pww8rIzr1pg
DGX Spark 比 395 AI算力高, 是吧? 价格要三万多. 我以为spark AI算力一定比rtx50系高呢.
不知道spark的操作系统是什么, 只知道cpu是arm架构的? 395优势就一个:大显存;其他的都不行,无论是带宽还是算力
N消费卡全都是被显存容量拖累的,否则哪儿还有核显的事儿 395AI是玩具,而rtx50可以入门用用 只能相当于4060差不多,还不支持cuda 你先要知道算力和显存容量是两个独立的指标[睡觉] 3.x tks,这是跟自己有多过不去啊 395只是能跑 成本低
5090 32g有一部分模型是跑不了的
395最多能分配96g(128g的版本没出)
也就是规模大了5090直接扑,395能哼哧哼哧老牛拉磨。
但凡5090没扑的项目 都是吊打395的
页:
[1]