入门学习AI 那个显卡比较合适？
本帖最后由 gyc 于 2025-5-28 10:31 编辑最近618了， 也在看各种AI活动， 所以 想升级一下配置。
目前想到的方案有
1. 4090 48G 三风扇或者水冷版
2. 5090 32G （优先有质保的/没质保的）
3. AMD AI Pro MAX395 迷你主机，价格来说最便宜的，但是好像能选择的不多。 而且大多数都没有扩展接口（PCIE）
4. 观望 NVIDIA DGX Spark， N家推的arm迷你机，128GLPDDR5X， 价格也是相当美丽，但能不能拿到货也是个问题。
坛子里的大神们，可以给个优先级建议吗？ 目前能用的预算在 2.5W左右 ， 前两还给换个电源，也推荐一下，谢谢。
关于我现在PC只能说CPU（AMD 8700G）差了点，但确实预算有些紧暂时不换U了。
====== 2025年5月28日 更新=====
在补充几点
1.你说玩不玩游戏？ 那当然是 玩啊！！ 反正自己住。 但是有没有时间玩游戏，有没有动力玩游戏就是另一个问题了。
2.选择这高的显存主要是看到模型介绍里面，动不动就要18G（视频生成），或者32G（多模态） 显存。 虽然用CPU也可以，但那个性能就真是看看就好。
3.至于为什么没选苹果， 一是高配的价格不便宜，二是 自己也不太熟悉苹果系统。
4.添加NVIDIA DGX Spark 选项， 但只能说观望中，毕竟这个第三方怎么拿货也是个问题，要是国内的合作伙伴有产品可能会那的快一点。
另外，关于适合5090 的电源有没有合适的推荐？
不考虑风险肯定是4090 48g 跑图的话首先排除3[狂笑] 正常排除3，可以等等2，2最近价格大跌 只有2可以选，1的噪音太大。 卡卡鸡 发表于 2025-5-26 08:11
跑图的话首先排除3
你说是 SD生成图片吗？ 不过可能会尝试用用 图到视频，视频到视频的模型玩玩。。（话说这模型真是越来越大） 炼金术士 发表于 2025-5-26 08:08
不考虑风险肯定是4090 48g
具体风险都有什么？ gyc 发表于 2025-5-26 09:11
具体风险都有什么？
也是无保啊，而且魔改的，不知道是用什么工艺焊的显存。 需求太模糊了。推理还是训练？ 本帖最后由 a010301208 于 2025-5-26 09:49 编辑
gyc 发表于 2025-5-26 09:11
你说是 SD生成图片吗？ 不过可能会尝试用用 图到视频，视频到视频的模型玩玩。。（话说这模型真是越来 ...
如果只是玩，24G都够了，不过跑高清高帧率视频要开内存交换实现，速度有所损失，不想开就换32或48。如果只是玩FramePack，24G足够你可以用时间来换清晰度和长度，更大目前也不会利用到。
如果要用视频当素材训练LORA那24G只能精度下降到FP8来跑，blocks to swap开到36差不多能跑640X640的或同等像素的5秒每段的低帧率视频素材。32G的话可以用BF16跑512X512的视频素材
如果用图片训练视频LORA16G都够了，跑1024X1024都没问题，开启blocks to swap的话24G都能跑BF16的更高分辨率
最后，就算是48G的显卡，内存容量也依然是关键，所以内存最少64G，128G以上更佳[偷笑] 4090 48g
AMD 的东西无法搞训练，没用 打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们
云平台的A100 40G一个小时才5元出头，比网吧电竞区还便宜
不知道你的学习热情能维持几百个小时 等2再降降，而且新卡各个框架也需要时间适配 awpak78 发表于 2025-5-26 10:16
打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们
这个不能这么算的，带宽，存储都算上，不便宜的。。。
当然，打游戏就不要忽悠大家，这个没毛病~~ awpak78 发表于 2025-5-26 10:16
打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们
贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛
入门推荐406016G，省钱。[傻笑] 果然是CHH，入门都4090起步，我觉得搞块5060ti 16G或魔改2080ti 22G玩玩看自己能否坚持吧，哈哈哈 manysu 发表于 2025-5-26 10:51
果然是CHH，入门都4090起步，我觉得搞块5060ti 16G或魔改2080ti 22G玩玩看自己能否坚持吧，哈哈哈 ...
5060TI 16G确实可以，但是2080TI他说他要玩AI视频你就别拿这种害他了，这不是显存大小的问题，而是能不能用的问题[偷笑] a010301208 发表于 2025-5-26 10:54
5060TI 16G确实可以，但是2080TI他说他要玩AI视频你就别拿这种害他了，这不是显存大小的问题，而是能不能 ...
顺便问问30系支持FP8吗？还有魔改的3080 20G可选 manysu 发表于 2025-5-26 11:01
顺便问问30系支持FP8吗？还有魔改的3080 20G可选
30系列不支持FP8，不过flash-attn倒是可以用，所以训练加速和视频生成加速还是没问题的，FramePack也是默认只支持30系以上的显卡。diffusion-pipe训练也是没问题的。所以3080 20G确实可以选，最多就是比40系50系跑FP8慢一点，别的没啥 先拿5060TI 16G试试水 这个入门太叼了。。。。 a010301208 发表于 2025-5-26 10:39
贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛
...
请问这是哪个平台？ StevenG 发表于 2025-5-26 10:37
这个不能这么算的，带宽，存储都算上，不便宜的。。。
当然，打游戏就不要忽悠大家，这个没毛病~~ ...
别看阿里云腾讯云的GPU服务器
去专门的AI容器租卡平台就是这个价，楼下还有国内平台的更便宜 williamqh 发表于 2025-5-26 11:26
请问这是哪个平台？
https://gpu.ai-galaxy.cn/store
智星云，运营好几年的平台了[偷笑] a010301208 发表于 2025-5-26 10:39
贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛
...
没怎么关注国内的羊毛，还是主要在用海外平台
长期用的话肯定要配置好一键脚本，自动拉hf和github起环境
物理上就位于硅谷的机器网速优势还是太大了 a010301208 发表于 2025-5-26 09:29
如果只是玩，24G都够了，不过跑高清高帧率视频要开内存交换实现，速度有所损失，不想开就换32或48。如果 ...
24g这种，我一张12g插显卡槽，另一张插pcie4*4，都是40系的能相当于24g吗？ a010301208 发表于 2025-5-26 11:30
https://gpu.ai-galaxy.cn/store
智星云，运营好几年的平台了
这价确实让本地跑AI的借口不成立了，哈哈哈哈 awpak78 发表于 2025-5-26 11:30
没怎么关注国内的羊毛，还是主要在用海外平台
长期用的话肯定要配置好一键脚本，自动拉hf和github起环境 ...
国内有些平台不能直连确实麻烦，git clone这些还要中转[偷笑]
不过便宜嘛，一开始麻烦点，都配置好，后面做个存档镜像就好了[偷笑] solder 发表于 2025-5-26 11:31
24g这种，我一张12g插显卡槽，另一张插pcie4*4，都是40系的能相当于24g吗？
训练可以多卡，生成只能单卡