关于显卡的生产力需求

dfdf44

现在都是讨论买显卡本地部署这个模型那个模型，跑这个跑那个的，个人和公司都在抢购，大家真的有这个需求吗，好奇这个能真的能产生经济效益吗，或者纯粹是学习新技术？

334161200

做这行的的确可以产生经济效益，纯玩的也不会投入那么多。都是在线尝尝鲜完事

liukang1985

除了极个别场景，本地部署都是伪需求。
个人来说，除非涉及非常私密的隐私或者非常在意自己的隐私，不然都是直接走在线服务来得省心，效果还好。
企业的话，主要考虑安全性，或者说涉密之类的，但是这类一般都是特殊企业或者大型，巨型企业才需要考虑的问题。中小规模的企业老老实实用公有云才是正道，自己瞎折腾没啥意义。

hawie

生产力是噱头，自掏腰包的，大多也就是试试之后淡了，毕竟再怎么部署也离满血API天差地远，费力、费钱、还不讨好的事，现实中没几个人真会干的。
大多数所谓生产力，只是玩游戏之余，闹着玩也就部署小模型，行与不行、好与不好都不在意，而已。

走火

就这么说，有利益关系的会直接买旗舰或者次旗舰，很少买中端货

finished

现在最麻烦的还是明确生产力需求的，n卡又贵暗病又多，a卡撼动不了cuda壁垒，最起码得等她出32g版本才能慢慢带着友商一起进入大显存时代。这只是第一步中的第一步，紧接着AI可能在软件优化方面提供更多虚拟帧数（插好帧？）和缩短渲染时间，也就是配合ai技术优化A卡，然后生产力才可能谈不被n卡垄断，现阶段生产力用户最佳状态还是等5080ti super 这种东西可能的提早上市算最优解。
我问过之前的同学 老师 相关，大家大多停留在了3090和4090，完全不准备去升级，其实也是各种原因升无可升。

鬼武人

伪需求，就跟00年代初会上网的个个都开个个人网站一样

manwomans

都是跟风凑热闹蹭流量的
有api不用，非要硬整活儿
推理速度慢不说，过低的量化模型跟弱智也没啥两样

forfans

对比大部分行业惨淡算sqda风口上的猪而已，真落地还是多少鬼知道。不过现在行业一起吹是吧，总要赶点潮流。

我輩樹である

可以赚钱，但是别看网上怎么说，实际上个人玩家都是说的多，做得少。

hzdjb

目前AI的应用场景正处于你唬弄我我唬弄你的时期，等风头过了谁在裸泳就一目了然了

fhqddd7086

给个大哥整了个70B的本地模型，结果人家说还不如豆包。看～这才是普罗大众的实际需求。

natt

狗日的ADOBE在PS里用了CUDA降噪，侬刚刚，5090肯定是快过目下一切显卡的，这就是生产力刚需

可惜我买不起啊

xks07

fhqddd7086 发表于 2025-3-1 14:05
给个大哥整了个70B的本地模型，结果人家说还不如豆包。看～这才是普罗大众的实际需求。 ...

现在DS腾讯元宝都上线PC版本了，有网页和程序。不是那种有内部商业机密的，秒杀本地的。

fhqddd7086

xks07 发表于 2025-3-1 14:18
现在DS腾讯元宝都上线PC版本了，有网页和程序。不是那种有内部商业机密的，秒杀本地的。

...

真涉及密码的单位，人家H100集群直接就买了，什么5090，对吧。

wuxi001

商业信息大都是商业机密，大量的企业都有部署本地AI 需求，而且趋势是越来越强，需求越来越大，超微等股票已经上涨很多了。本地部署是任何盈利机构，非盈利机构的首选。

melas

个人本地部署。。你们家里准备出几百个W来部署啊？

gerbigo

花个100块充个官方的api，可以用到天荒地老，本地部署的意义压根没啥，玩玩而已。

lmwa

伪需求的多，真需求的都是公司批量采购报销！

gmlee1999

就是玩，AI生成图也是，浪费一些时间，和打游戏差不多。

晓古城

游戏党就是冤大头，多付一半钱。