Chiphell - 分享与交流用户体验

 找回密码
 加入我们
搜索
      
查看: 7824|回复: 54

[显卡] 深度学习入门卡买哪种比较好?好卡真是太贵了:(

[复制链接]
发表于 2020-11-24 22:17 | 显示全部楼层 |阅读模式


京东搜 rtx2080ti,前3个卡的价格如下:
微星(MSI)魔龙 GeForce RTX 2080 Ti GAMING X TRIO 1755MHz 11GD6 旗舰寂冷电竞游戏显卡  10888.00
技嘉(GIGABYTE)AORUS GeForce RTX 2080Ti 小雕 1695 14000 352bit GDDR6 11G 电竞游戏显卡 8999
索泰(ZOTAC)RTX2080Ti玩家力量至尊PGF OC14显卡/N卡/台式机/游戏/电竞/网课/绘图/设计/独立显卡/11G显存 10999.00

为啥2080ti的价格还不急跌呢

买深度学习的卡,一般买哪个牌子的卡比较好呢?
你们买卡的时候看显卡的牌子么?

入门是不是没必要一开始就上2080ti呢
那买什么卡好,最好性价比高点
发表于 2020-11-24 22:17 | 显示全部楼层
现在依旧是二手1080Ti性价比最高
发表于 2020-11-24 22:30 | 显示全部楼层
  性价比最高的是矿卡,p106,104,102这种。。。
发表于 2020-11-24 22:40 | 显示全部楼层
你是要买来学习还是真的要训?真的要训一张卡也不够啊
 楼主| 发表于 2020-11-24 22:46 | 显示全部楼层
lzp729 发表于 2020-11-24 22:40
你是要买来学习还是真的要训?真的要训一张卡也不够啊

学,不是也要训的么
 楼主| 发表于 2020-11-24 22:46 | 显示全部楼层
zhao1999250 发表于 2020-11-24 22:30
性价比最高的是矿卡,p106,104,102这种。。。

矿卡用来做深度学习,算力够么
发表于 2020-11-24 22:52 | 显示全部楼层
shan2012 发表于 2020-11-24 22:46
矿卡用来做深度学习,算力够么

便宜啊。。性价比啊。。算力第一建议3090
发表于 2020-11-24 22:54 | 显示全部楼层
Titan V 性价比非常好,可以多买几个。
发表于 2020-11-24 23:02 | 显示全部楼层
是不是有租gpu算力的?
发表于 2020-11-24 23:23 | 显示全部楼层
3090啊,大显存爽歪歪
发表于 2020-11-24 23:36 来自手机 | 显示全部楼层
Titan Xp?5900元
发表于 2020-11-24 23:43 | 显示全部楼层
我不了解深度学习,但问过公司搞深度学习的,他说他目前用的都是单精度,没双精度需求,不知道是不是不同深度学习有不同要求。
发表于 2020-11-24 23:45 | 显示全部楼层
建议买涡轮散热的,用完出二手还保值。
发表于 2020-11-25 00:26 | 显示全部楼层
可以考虑下,租按时长付费的云GPU机器
发表于 2020-11-25 01:30 | 显示全部楼层
自己买个二手1080ti玩吧
 楼主| 发表于 2020-11-25 01:33 | 显示全部楼层
Shaperz 发表于 2020-11-24 22:54
Titan V 性价比非常好,可以多买几个。

Titan V 你去哪里买的
发表于 2020-11-25 01:34 | 显示全部楼层
shan2012 发表于 2020-11-25 01:33
Titan V 你去哪里买的

黄鱼。
 楼主| 发表于 2020-11-25 01:34 | 显示全部楼层
夜夕云轩 发表于 2020-11-25 01:30
自己买个二手1080ti玩吧

你买二手1080ti不怕用几天坏了么
 楼主| 发表于 2020-11-25 01:35 | 显示全部楼层
海边的卡夫卡 发表于 2020-11-25 00:26
可以考虑下,租按时长付费的云GPU机器

云GPU机器买哪家呢?
 楼主| 发表于 2020-11-25 02:57 | 显示全部楼层

黄鱼是什么?
Titan V一块要2万?
发表于 2020-11-25 07:39 | 显示全部楼层
Tensorflow用户,一路上GTX 970->GTX 1060 5GB->GTX1080TI->RTX2080TI升级过来,中间还蹭过一段时间别人的Geforce GTX Titan X(Maxwell那个)首先买什么型号取决于具体需求是什么。
首先是显存
如果只是刚开始学,希望能在GPU上跑自己的代码,或者在比较小的数据集(对CV来说是MINST/CIFRA之类的)上实际训练一下,那么买个低端的就行了,但是建议买架构更新的(架构的问题后面说)。
如果打算跑最新的模型,那么至少需要11GB显存,这个数字是个历史遗留问题,DL大概在12年之后开始进入高速发展时期,12-16年NVIDIA主要销售的计算卡Tesla K40/M40都是12GB显存,还有15年发布的GTX Titan X让游戏卡第一次可以在单GPU的情况下用于12GB显存,这段时间诞生的模型基本的参数规模基本是按照12GB设计的,不过大部分模型也不会装满12GB显存,11GB的GTX1080TI、RTX2080TI基本上都能跑,不过10GB的RTX3080就可能遇到爆显存的问题。
其次是浮点性能
浮点性能决定训练模型的速度,但是实际的训练速度和浮点性能并不是简单的线性关系,很多OP需要在CPU上跑或者并不能最大化利用GPU性能,另外模型较小的时候要比较大的batch size才能充分利用GPU的全部算力。
Pascal之前,N卡仅支持硬件FP64和FP32运算,FP64对深度学习没什么用,Pascal开始的N卡支持FP16(仅GP100支持),由于运算速度是FP32的两倍并且参数体积近乎减半,通过混合精度训练可以获得明显的训练速度提升,Volta引入了Tensor Core,在输入符合要求的时候可以进一步提高混合精度训练的训练速度,但是GP100和GV100并没有覆盖到游戏,游戏卡到了Turing才引入FP16和混合精度训练。Ampere引入了新的数据格式支持:TF32、BF16并且升级了Tensor Core,GA100大核心的Tensor Core处理能力明显增强,但是这一代的大核心仅仅用于计算卡,用于游戏卡的GA10X每个SM中的FP32单元数量翻倍,整体FP32性能保障,但是FP16性能和FP32性能重新回到1:1,并且每个SM内的Tensor Core数量减少。
购买建议
仅仅是调代码或者练手:根据预算再GTX1650Super到RTX3070之间选择
在中等规模的数据集(比如mscoco)上复现最新的模型:RTX2080TI或者等以下RTX3080TI/20G,但是不推荐RTX2080TI,最近大量倒爷在高价收购公版PCB的RTX2080TI,大概是拿去挖矿,市场上的新卡大多比18年发布的时候还贵,非常不合算。
在中等规模的数据集上调新的模型:4*RTX3090
其他
如果你能稳定连接Google的话,其实可以不用自己买显卡,colab提供免费的GPU(Tesla K80/M40/P100/T4)和TPU,跑跑CIFAR完全没问题。


发表于 2020-11-25 08:26 | 显示全部楼层
能稳定连接Google的话 从科研到娱乐好多事情都可以免费或者极低成本呐

煞笔百毒你听到了吗?
发表于 2020-11-25 08:35 来自手机 | 显示全部楼层
闲鱼去收一张或者两张玩家的2080ti非公的,火神,魔龙,大雕猛禽都行,都不超过5000
发表于 2020-11-25 08:35 来自手机 | 显示全部楼层
hwbenimaru 发表于 2020-11-25 08:35
闲鱼去收一张或者两张玩家的2080ti非公的,火神,魔龙,大雕猛禽都行,都不超过5000 ...

是都不超过6000。
发表于 2020-11-25 08:45 | 显示全部楼层
卡哥打了个喷嚏
发表于 2020-11-25 09:44 | 显示全部楼层
3090 over
 楼主| 发表于 2020-11-25 10:03 | 显示全部楼层

3090你买的哪个牌子呢?
发表于 2020-11-25 10:19 | 显示全部楼层
玩cv的话,游戏卡基本够了。
玩nlp,尤其pretrain的话,几台dgx都不够
发表于 2020-11-25 11:32 | 显示全部楼层
本帖最后由 nlnjnj 于 2020-11-25 11:33 编辑
shan2012 发表于 2020-11-25 10:03
3090你买的哪个牌子呢?

建议技嘉turbo吧 扔服务器上面
技嘉本身就有出epyc的服务器
24G 显存 可以适用的场景多些 而且训练时间越短也方便试错


发表于 2020-11-25 11:37 | 显示全部楼层
Dudayev 发表于 2020-11-25 07:39
Tensorflow用户,一路上GTX 970->GTX 1060 5GB->GTX1080TI->RTX2080TI升级过来,中间还蹭过一段时间别人的G ...

colab 这个用起来方便么
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

小黑屋|手机版|Archiver|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2021-10-23 23:15 , Processed in 0.011403 second(s), 9 queries , Gzip On, Redis On.

Powered by Discuz! X3.4

© 2007-2021 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表