找回密码
 加入我们
搜索
      
查看: 16918|回复: 56

[显卡] 最后3090ti下山,分享一点心路历程[11.9更新]

[复制链接]
发表于 2023-6-19 08:35 | 显示全部楼层 |阅读模式
本帖最后由 pbjacob 于 2023-11-9 08:39 编辑

==========2023年11月9日更新================
卡是618期间买的,如今双十一,本以为5个月过去显卡会降价,结果不降反升,3090不带ti的都8000+,3090ti直接9400+。
之前分析来分析去,在性价比方面,谈什么都抵不过价格的因素,当初能6869元买到3090ti现在看还是不算亏的。

应该是这波大模型的兴起又带动了显卡涨价,尤其是24G显存的卡,时至今日依然是抢手货,只要供不应求,就会继续涨价。

这小半年用下来,感觉24G的卡部署大模型确实压力会小很多,6B、7B的直接上全精度,13B的可以8bit量化,34B的可以4bit量化,都能加载得了。我自己尝试过 WizardCoder-Python 34B 的 4bit 量化模型,加载占用20个G,效果真心不错,比 CodeGeeX 好不少,毕竟模型体量在那摆着呢。这种300亿参数级别的模型,用16G或12G的卡就玩不起来了,而300亿又确实比几十亿的有明显提升,且量化后损失还小。


==========以下为2023年6月19日原贴============
大概从2021年开始观望显卡市场,终于等来了真矿难,但由于AI的爆火导致显卡价格并未达到预期矿难的程度,不过也还算能够接受。

今年618,预算8k以下,是否是二手卡不重要,但显存一定要大(因为要跑非量化的7b模型),于是有若干备选方案:

1)2080ti改22g改240水:3600元
2)3090 24g:5500-6500元
3)3090ti 24g:8000-9000元
4)4080 16g:7500-9000元

最终京东3090ti 6869元拿下,店保一年。

购买心路如下:
1)2080ti虽然价格不高,是20G以上显存的最低成本方案,但由于年代过久,淬炼时间最久,来路体质最不明,CUDA和tensor core代差太多,可能未来新特性支持不够,而且小4000元的价格并不算便宜,于是放弃。

2)3090性价比尚可,但大概率自发布之日起从头炼到尾,且显存是双面分布,即使改水,除非双面水,背面的显存总感觉朝不保夕,另外,6000左右买张炉火纯青的卡心里总觉得有点别扭,而且改完水也要接近7000了。

3)3090ti性价比虽然差一点,但炼丹性价比也很低,不易老板们被加卡,风险相对较低,即便是矿,由于发布晚,所以挖的时间也比较短,心理层面比3090要舒服不少,另外显存是单面布局,有ECC,有新电源接口,完整核心,相当于官方超频不用自己动手,由于是顶级旗舰所以器件配置和体质也属上成;不过,相比40系它有两大缺点,一个是功耗高,另一个是人老珠黄“过气”了。8000+确实性价比太低也买不起,但7000-倒是能够接受。

4)4080论性能、能耗比实在没得挑,就是显存稍显不足,位宽也稍差点意思,价格稍高,最后还是因为显存的原因放弃了。

最早还考虑过3080ti,因为它和3090、3090ti参数相差甚微,性价比非常高,但就是显存折半,12G,一言难尽;曾经也想咬牙上4090,但丐中丐和中端的差价竟能塞一个4060进去,实在过于刺激,最终放弃。


其实无论买哪种卡,哪怕直接上4090都会有人说这卡买得不值,不如加钱/减钱买其他什么卡,我也是各论坛、知乎、视频网站留言一路看下来的,感觉每种商品的定价都有商家充分的考量,商家总是为获得最大收益,定价能高一块钱卖就决不会可怜买家而降一块钱。从买方出发,即使是同型号的卡也有很多种选择,做工、电源相数、散热、信仰灯、外观、品牌溢价等等因素非常多,性价比都是相对而言的,也是随时间变化的,想等就等,不能等就买,每种购买选择也都有买家自己的考量,每一笔交易都有其现实意义和合理性的,钱肯花出去也就无所谓对错、无所谓性价比高低了。东西到手就安心用呗。

观点未必普适,但适用自己,供参考,欢迎交流。
发表于 2023-6-19 08:45 | 显示全部楼层
怎么说,有质保就行。3090ti要7000二手卡还真不如4080的16G,一个是3090ti功耗真的太高了,出图而言3070 16G也照样够出图啦怎么4080就不行,只是暂时4080没好价是还是因为小黄把价格定太高。

 楼主| 发表于 2023-6-19 08:54 | 显示全部楼层
kanademoment 发表于 2023-6-19 08:45
怎么说,有质保就行。3090ti要7000二手卡还真不如4080的16G,一个是3090ti功耗真的太高了,出图而言3070 16 ...

感谢分享。
其实买这卡主要用途是跑NLP大模型用,16G刚好能加载和微调,但怕撑不住几轮就爆显存了。
如果从出图角度出发的话,那就是另一套选卡方案了。
发表于 2023-6-19 08:57 | 显示全部楼层
LZ你认为自己选了个性价比,其实我觉得你选择错误了,电子产品首先买新不买旧,其次再摸索性价比才行。3090TI真不如4080了,可能前期4080价格恶臭名声不好,但是如果预算不想上万,性能要求也不低,那么4080无论是性能还价格甚至稳定性舒适性是目前唯一的选择了,A卡就算了,问题那么多,电子产品性能保证的同时,用的舒服方便无烦恼也很重要
发表于 2023-6-19 08:58 | 显示全部楼层
感觉还不如上丐版 4090 至少你后面3年不愁出问题,3年后还能再战2年。至于3090 估计你顶多战3年。
发表于 2023-6-19 09:34 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
发表于 2023-6-19 09:49 | 显示全部楼层
支持下楼主,需求不同选择也不同。对楼主的需求其实只有90系能满足,结合性价比结论出来不难。之前我自己也在纠结哈,可以看我前几天发的帖子,我的结论和楼主类似。

 楼主| 发表于 2023-6-19 09:49 | 显示全部楼层
lalabangbang 发表于 2023-6-19 08:57
LZ你认为自己选了个性价比,其实我觉得你选择错误了,电子产品首先买新不买旧,其次再摸索性价比才行。3090 ...

你说的有道理。
我曾经差点就下单4080了,但还是考虑到显存的问题最终放弃了。
 楼主| 发表于 2023-6-19 09:51 | 显示全部楼层
ITNewTyper 发表于 2023-6-19 08:58
感觉还不如上丐版 4090 至少你后面3年不愁出问题,3年后还能再战2年。至于3090 估计你顶多战3年。 ...

4090确实超预算了,丐中丐也超了
 楼主| 发表于 2023-6-19 09:54 | 显示全部楼层
gbawrc 发表于 2023-6-19 09:34
不管楼主怎么选最后网友都有其它不同的意见,买都买了就好好用

说得好,每个人都自己的观点和选择。

贴子下面大家广开言路也很好,能给其他朋友提供更多的参考意见。
发表于 2023-6-19 10:18 | 显示全部楼层
lz需要大显存,从实际应用出发3090ti很好啊
发表于 2023-6-19 10:28 | 显示全部楼层
大神炼丹一定是用16g的显卡打败24g的显卡吧
发表于 2023-6-19 11:27 | 显示全部楼层
如果一定要20+显存的话,小7千去了,不如一步到位4090,也就加4千多,前一阵丐板不到12000,甚至小黄鱼不定期会有11开头的套利卡(当然在意保修可以忽略此卡)。4系技术规格的提升是非常大的,而且容易出二手,保值。
如果非必要20+显存,这个价位,绝对是4080首选,4系对画图有加成,而且功耗比惊人,风扇都不带转的。
发表于 2023-6-19 11:31 | 显示全部楼层
说实话,店保1年 ,3090TI 6869元有点不理智啊
LZ发帖...其实心里也是.....不然心安理得的用着,还说什么说呢...
发表于 2023-6-19 11:32 | 显示全部楼层
3090**那么贵吗?我纯游戏自用火神才卖了5200
发表于 2023-6-19 11:34 | 显示全部楼层
ArthurFz 发表于 2023-6-19 11:32
3090**那么贵吗?我纯游戏自用火神才卖了5200

你不错了,我的6900XT值个3000(1万买的)不知道有没有,懒的卖了。
发表于 2023-6-19 11:44 | 显示全部楼层
不买4090一定是因为超预算,否则4090就是大多数人玩ai/学习,还兼顾4k游戏的首选。
楼主是有大显存需求压力的,不然肯定选4080了,这跟大多数人需求不一样,大多数人八九千预算以内首选4080是对的。
发表于 2023-6-19 11:49 | 显示全部楼层
4060ti fe前两天京东自营预约抢购的时候抱着随便试一试的心态参加
上午连着刷也没抢到,点了到货提醒和替我下单
看小黄鱼一堆抢到转手的黄牛,几乎没加价
不过我又无所谓,不惯他这毛病
我又不是刚需,爱有没有
下午随便打开app,居然就直接下单了…………
那就付款吧
奈何特别的心水40系公版的造型
我又不打游戏不锻炼,没必要大好几千上万的买8090
那就弄个4060ti fe公版,顺便体会下4k144高刷吧
到手发现这公版的质感真的牛逼,手感堪比小砖头
比一众垃圾花哨的AIC强出好几条街
虽然会被喷,花这么多买这个垃圾卡
不过早买早享受,几百块钱的差价而已
无所谓,几顿饭,一双鞋不就出来了
就是32寸4k144的显示器又挑花眼了
发表于 2023-6-19 12:11 | 显示全部楼层
还以为是2022年的帖子。。。
发表于 2023-6-19 12:35 | 显示全部楼层
如果是我会选择咬咬牙上4090丐,毕竟不是拿来玩的还是有那么一点理直气壮,也感觉到楼主买3090Ti有那么一点意难平
发表于 2023-6-19 12:52 | 显示全部楼层
年初,买显卡,侧重点和楼主一样,我是因为玩游戏多开,现在的显卡爆显存了,实际游戏对显卡要求不高,只是显存要求大。

选来选去,2080ti、3090、3090ti都看过,最后直接上了4090
发表于 2023-6-19 13:48 | 显示全部楼层
Skysky007 发表于 2023-6-19 11:34
你不错了,我的6900XT值个3000(1万买的)不知道有没有,懒的卖了。

我当时5200还卖了好久呢,3090锻炼卡哪有这么贵...5500+能买到成色很好的个人卡了
发表于 2023-6-19 13:57 | 显示全部楼层
huihuige 发表于 2023-6-19 11:49
4060ti fe前两天京东自营预约抢购的时候抱着随便试一试的心态参加
上午连着刷也没抢到,点了到货提醒和替我 ...

4060ti带4k144只能跑动LOL或者CSGO这种吧,3A DLSS都救不了,显存位宽太小了
发表于 2023-6-19 14:01 | 显示全部楼层
我现在刚把RX590退役,换上了3090,适合自己的才是最重要的
发表于 2023-6-19 15:02 | 显示全部楼层
Haile 发表于 2023-6-19 12:52
年初,买显卡,侧重点和楼主一样,我是因为玩游戏多开,现在的显卡爆显存了,实际游戏对显卡要求不高,只是 ...

多年来买电子产品经验,其实一步到位是最合算的。。
发表于 2023-6-19 15:17 | 显示全部楼层
我觉得不如买新的7500的4080 。。。
发表于 2023-6-19 15:20 | 显示全部楼层
不挖矿改练ai,没有需求创造需求
 楼主| 发表于 2023-6-19 15:54 | 显示全部楼层
lucaslee 发表于 2023-6-19 09:49
支持下楼主,需求不同选择也不同。对楼主的需求其实只有90系能满足,结合性价比结论出来不难。之前我自己也 ...

感谢你的回复。刚看了你的贴子,纠结的点是差不多的。最终选购一定是预算和配置互相拉扯的结果。当然了,其实预算充足也有预算充足的纠结点,哈哈。
 楼主| 发表于 2023-6-19 15:55 | 显示全部楼层
63047838 发表于 2023-6-19 12:35
如果是我会选择咬咬牙上4090丐,毕竟不是拿来玩的还是有那么一点理直气壮,也感觉到楼主买3090Ti有那么一点 ...

是的,这也是预算不够前提下的无奈之选。
 楼主| 发表于 2023-6-19 15:58 | 显示全部楼层
huihuige 发表于 2023-6-19 11:49
4060ti fe前两天京东自营预约抢购的时候抱着随便试一试的心态参加
上午连着刷也没抢到,点了到货提醒和替我 ...

我也喜欢FE的造型,看起来真的很高级,溢价也有溢价的道理。
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-4-26 20:25 , Processed in 0.014252 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表