入门学习AI 那个显卡比较合适？

gyc

最近618了， 也在看各种AI活动， 所以 想升级一下配置。

目前想到的方案有

1. 4090 48G 三风扇或者水冷版
2. 5090 32G （优先有质保的/没质保的）
3. AMD AI Pro MAX  395 迷你主机，价格来说最便宜的，但是好像能选择的不多。 而且大多数都没有扩展接口（PCIE）
4. 观望 NVIDIA DGX Spark， N家推的arm迷你机，128G  LPDDR5X， 价格也是相当美丽，但能不能拿到货也是个问题。

坛子里的大神们，可以给个优先级建议吗？ 目前能用的预算在 2.5W左右 ， 前两还给换个电源，也推荐一下，谢谢。

关于我现在PC只能说CPU（AMD 8700G）差了点，但确实预算有些紧暂时不换U了。

====== 2025年5月28日 更新=====

在补充几点

1.  你说玩不玩游戏？ 那当然是 玩啊！！ 反正自己住。 但是有没有时间玩游戏，有没有动力玩游戏就是另一个问题了。
2.  选择这高的显存主要是看到模型介绍里面，动不动就要18G（视频生成），或者32G（多模态） 显存。 虽然用CPU也可以，但那个性能就真是看看就好。
3.  至于为什么没选苹果， 一是高配的价格不便宜，二是 自己也不太熟悉苹果系统。
4.  添加  NVIDIA DGX Spark 选项， 但只能说观望中，毕竟这个第三方怎么拿货也是个问题，要是国内的合作伙伴有产品可能会那的快一点。

另外，关于适合5090 的电源有没有合适的推荐？

炼金术士

不考虑风险肯定是4090 48g

卡卡鸡

跑图的话首先排除3

ainomelody

正常排除3，可以等等2，2最近价格大跌

williamqh

只有2可以选，1的噪音太大。

gyc

卡卡鸡 发表于 2025-5-26 08:11
跑图的话首先排除3

你说是 SD生成图片吗？   不过可能会尝试用用 图到视频，视频到视频的模型玩玩。。（话说这模型真是越来越大）

gyc

炼金术士 发表于 2025-5-26 08:08
不考虑风险肯定是4090 48g

具体风险都有什么？

yxy37yxy37

gyc 发表于 2025-5-26 09:11
具体风险都有什么？

也是无保啊，而且魔改的，不知道是用什么工艺焊的显存。

秦南瓜

需求太模糊了。推理还是训练？

a010301208

gyc 发表于 2025-5-26 09:11
你说是 SD生成图片吗？   不过可能会尝试用用 图到视频，视频到视频的模型玩玩。。（话说这模型真是越来 ...

如果只是玩，24G都够了，不过跑高清高帧率视频要开内存交换实现，速度有所损失，不想开就换32或48。如果只是玩FramePack，24G足够你可以用时间来换清晰度和长度，更大目前也不会利用到。

如果要用视频当素材训练LORA那24G只能精度下降到FP8来跑，blocks to swap开到36差不多能跑640X640的或同等像素的5秒每段的低帧率视频素材。32G的话可以用BF16跑512X512的视频素材

如果用图片训练视频LORA16G都够了，跑1024X1024都没问题，开启blocks to swap的话24G都能跑BF16的更高分辨率

最后，就算是48G的显卡，内存容量也依然是关键，所以内存最少64G，128G以上更佳

8owd8wan

4090 48g

AMD 的东西无法搞训练，没用

awpak78

打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们

云平台的A100 40G一个小时才5元出头，比网吧电竞区还便宜
不知道你的学习热情能维持几百个小时

StevenG

等2再降降，而且新卡各个框架也需要时间适配

StevenG

awpak78 发表于 2025-5-26 10:16
打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们

这个不能这么算的，带宽，存储都算上，不便宜的。。。

当然，打游戏就不要忽悠大家，这个没毛病~~

a010301208

awpak78 发表于 2025-5-26 10:16
打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们

贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛

gmlee1999

入门推荐406016G，省钱。

manysu

果然是CHH，入门都4090起步，我觉得搞块5060ti 16G或魔改2080ti 22G玩玩看自己能否坚持吧，哈哈哈

a010301208

manysu 发表于 2025-5-26 10:51
果然是CHH，入门都4090起步，我觉得搞块5060ti 16G或魔改2080ti 22G玩玩看自己能否坚持吧，哈哈哈 ...

5060TI 16G确实可以，但是2080TI他说他要玩AI视频你就别拿这种害他了，这不是显存大小的问题，而是能不能用的问题

manysu

a010301208 发表于 2025-5-26 10:54
5060TI 16G确实可以，但是2080TI他说他要玩AI视频你就别拿这种害他了，这不是显存大小的问题，而是能不能 ...

顺便问问30系支持FP8吗？还有魔改的3080 20G可选

a010301208

manysu 发表于 2025-5-26 11:01
顺便问问30系支持FP8吗？还有魔改的3080 20G可选

30系列不支持FP8，不过flash-attn倒是可以用，所以训练加速和视频生成加速还是没问题的，FramePack也是默认只支持30系以上的显卡。diffusion-pipe训练也是没问题的。所以3080 20G确实可以选，最多就是比40系50系跑FP8慢一点，别的没啥

enolc

先拿5060TI 16G试试水

我輩樹である

这个入门太叼了。。。。

williamqh

a010301208 发表于 2025-5-26 10:39
贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛

...

请问这是哪个平台？

awpak78

StevenG 发表于 2025-5-26 10:37
这个不能这么算的，带宽，存储都算上，不便宜的。。。

当然，打游戏就不要忽悠大家，这个没毛病~~ ...

别看阿里云腾讯云的GPU服务器

去专门的AI容器租卡平台就是这个价，楼下还有国内平台的更便宜

a010301208

williamqh 发表于 2025-5-26 11:26
请问这是哪个平台？

https://gpu.ai-galaxy.cn/store

智星云，运营好几年的平台了

awpak78

a010301208 发表于 2025-5-26 10:39
贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛

...

没怎么关注国内的羊毛，还是主要在用海外平台

长期用的话肯定要配置好一键脚本，自动拉hf和github起环境
物理上就位于硅谷的机器网速优势还是太大了

solder

a010301208 发表于 2025-5-26 09:29
如果只是玩，24G都够了，不过跑高清高帧率视频要开内存交换实现，速度有所损失，不想开就换32或48。如果 ...

24g这种，我一张12g插显卡槽，另一张插pcie4*4，都是40系的能相当于24g吗？

williamqh

a010301208 发表于 2025-5-26 11:30
https://gpu.ai-galaxy.cn/store

智星云，运营好几年的平台了

这价确实让本地跑AI的借口不成立了，哈哈哈哈

a010301208

awpak78 发表于 2025-5-26 11:30
没怎么关注国内的羊毛，还是主要在用海外平台

长期用的话肯定要配置好一键脚本，自动拉hf和github起环境 ...

国内有些平台不能直连确实麻烦，git clone这些还要中转

不过便宜嘛，一开始麻烦点，都配置好，后面做个存档镜像就好了

a010301208

solder 发表于 2025-5-26 11:31
24g这种，我一张12g插显卡槽，另一张插pcie4*4，都是40系的能相当于24g吗？

训练可以多卡，生成只能单卡