q3again0605 发表于 2024-1-5 13:51

一不小心nv官网上线了rtx 5880 ada

本帖最后由 q3again0605 于 2024-1-5 14:59 编辑

前面搜了相关新闻，今天刚才没注意刷新了一下，发现nv官网上线了https://www.nvidia.com/en-us/design-visualization/rtx-5880/
自己稍微整理了一下数据，如果是只是为了推理（按照现有的开源的LLMs的尺寸来算）的话，2卡和4卡的4090D或者2卡的5000 ADA还是不错的，对于个人开发者或者小型工作室。5880 ada价格猜的，6000ada和5000ada的价格只是我最近问到过的，作为参考。

Illidan2004 发表于 2024-1-5 14:38

6000ada的特供版呗

Garming 发表于 2024-1-5 15:21

看到这种特供版就觉得很[晕倒]

ben19910518 发表于 2024-1-5 15:24

从cuda数算的话应该叫5238ADA，怎么就5880了

gbawrc 发表于 2024-1-5 16:12

jtshs256 发表于 2024-1-5 17:01

12/15 丽台的公众号就发了这玩意的预定，直接电话询价呗

pdvc 发表于 2024-1-6 02:10

4090D有NVLINK？没有咋跑20B以上的LLM...

q3again0605 发表于 2024-1-6 10:27

pdvc 发表于 2024-1-6 02:10
4090D有NVLINK？没有咋跑20B以上的LLM...

多卡都是可以跑更大的模型的，按一定的规则进行拆分，nvlink的意义在于卡和卡直接的带宽增大，目前走内存cpu的交换或者pcie-pcie的数据交换瓶颈大。
页: [1]
查看完整版本: 一不小心nv官网上线了rtx 5880 ada