5090是最后一代给大算力的游戏卡?
从一个AI群里看到的不过像4090应该是侵占了不少专业卡市场,比如应该是搞得 6000 ada卖得不多吧 你可以认为AI有两块需求
一类是模型的训练,需要高精度,
一类是基于模型的推理,不需要高精度
消费级卡拿现成模型本地部署一下没问题,但用这种卡生产不出模型来。 专业卡和游戏卡泾渭分明的好,省的资本入局扫货,游戏党的根本抢不过他们 af_x_if 发表于 2024-11-30 12:33
你可以认为AI有两块需求
一类是模型的训练,需要高精度,
一类是基于模型的推理,不需要高精度
模型训练不需要高精度,fp16混合精度就可以 根本不需要64位精度
4090能竞争于6000 ada是因为16和32精度 af_x_if 发表于 2024-11-30 12:33
你可以认为AI有两块需求
一类是模型的训练,需要高精度,
一类是基于模型的推理,不需要高精度
一大堆实验室在拿4090集群微调模型, 到你这成了生产不出来 取决于 ai 这个概念能不能火过 Blackwell 的生命周期 钱没地方流,除了比特币,只有ai了 当AI烧两年资本没有明显盈利,绝大部分资本就会出局!
只有少部分头部企业才会继续烧下去,如果五年还是无法真正盈利,
生成式AI主流地位就会被其他会盈利的AI模型代替。
页:
[1]