入门学习AI 那个显卡比较合适？

a010301208

gyc 发表于 2025-5-26 09:11
你说是 SD生成图片吗？   不过可能会尝试用用 图到视频，视频到视频的模型玩玩。。（话说这模型真是越来 ...

如果只是玩，24G都够了，不过跑高清高帧率视频要开内存交换实现，速度有所损失，不想开就换32或48。如果只是玩FramePack，24G足够你可以用时间来换清晰度和长度，更大目前也不会利用到。

如果要用视频当素材训练LORA那24G只能精度下降到FP8来跑，blocks to swap开到36差不多能跑640X640的或同等像素的5秒每段的低帧率视频素材。32G的话可以用BF16跑512X512的视频素材

如果用图片训练视频LORA16G都够了，跑1024X1024都没问题，开启blocks to swap的话24G都能跑BF16的更高分辨率

最后，就算是48G的显卡，内存容量也依然是关键，所以内存最少64G，128G以上更佳

a010301208

awpak78 发表于 2025-5-26 10:16
打游戏就打游戏
学AI这种借口骗骗父母和导师就行了，没必要拿到chh来骗哥们

贵了，A100，2块3一小时，量大优惠，而且这只是正常价格，没算上用特殊手段薅羊毛

a010301208

manysu 发表于 2025-5-26 10:51
果然是CHH，入门都4090起步，我觉得搞块5060ti 16G或魔改2080ti 22G玩玩看自己能否坚持吧，哈哈哈 ...

5060TI 16G确实可以，但是2080TI他说他要玩AI视频你就别拿这种害他了，这不是显存大小的问题，而是能不能用的问题

a010301208

manysu 发表于 2025-5-26 11:01
顺便问问30系支持FP8吗？还有魔改的3080 20G可选

30系列不支持FP8，不过flash-attn倒是可以用，所以训练加速和视频生成加速还是没问题的，FramePack也是默认只支持30系以上的显卡。diffusion-pipe训练也是没问题的。所以3080 20G确实可以选，最多就是比40系50系跑FP8慢一点，别的没啥

a010301208

williamqh 发表于 2025-5-26 11:26
请问这是哪个平台？

https://gpu.ai-galaxy.cn/store

智星云，运营好几年的平台了

a010301208

awpak78 发表于 2025-5-26 11:30
没怎么关注国内的羊毛，还是主要在用海外平台

长期用的话肯定要配置好一键脚本，自动拉hf和github起环境 ...

国内有些平台不能直连确实麻烦，git clone这些还要中转

不过便宜嘛，一开始麻烦点，都配置好，后面做个存档镜像就好了

a010301208

solder 发表于 2025-5-26 11:31
24g这种，我一张12g插显卡槽，另一张插pcie4*4，都是40系的能相当于24g吗？

训练可以多卡，生成只能单卡

a010301208

williamqh 发表于 2025-5-26 11:32
这价确实让本地跑AI的借口不成立了，哈哈哈哈

a010301208

Leciel 发表于 2025-5-26 12:10
生成也可以多卡，不过这就不是入门级的要求了。

之前有误，这个项目确实可以部分实现多卡推理视频，感谢下面楼层提供的

https://github.com/xdit-project/xDiT
https://github.com/Tencent-Hunyu ... ltiple-gpus-by-xdit

a010301208

Leciel 发表于 2025-5-26 12:33
https://github.com/neuratech-ai/ComfyUI-MultiGPU
当然，叠加算力是没有的。

首先你因该亲自试一下实际生成效果

然后这个工作流插件根本不能支持视频模型

a010301208

平安是福 发表于 2025-5-26 13:19
有点疑惑，拿老黄的多帧生成来举例，他怎么靠1帧推出来3帧的

你说DLSS？这个也是你单显卡完成的，一帧多帧，是你的显卡瞬间连续跑了几帧数，显卡看到游戏引擎第1帧，然后瞬间脑补出第2帧，然后通过第2帧脑补出第3帧，是一个连续的过程只不过因为速度很快，所以你一下子看到了好几帧，感觉流畅了

a010301208

平安是福 发表于 2025-5-26 13:39
我记得以前有一种说法是，50系有独有的功能元件用来给这些生成的帧进行重排序，40系和30系没有所以不能多 ...

这个不确定，不过针对50系优化肯定是有的，本质就是一个AI模型

a010301208

zhuifeng88 发表于 2025-5-26 13:59
是什么使你以为不能的...
哪怕你要开箱即用的傻瓜框架都是有的, 比如
https://github.com/xdit-project/x ...

所以我问你8个月过去了，有开发出来吗？

a010301208

平安是福 发表于 2025-5-26 13:44
就是说那三帧都是根据一帧推理的，而不是连续推理，所以需要硬件重排序帧 ...

三帧都是根据一帧推理的只要模型够聪明是可行的，至于重排序帧是不是一定要50系，我只能说因该不是的，主要还是看他这个模型的算法

a010301208

zhuifeng88 发表于 2025-5-26 14:17
? 大半video模型你在说什么...

之前没注意是旧页面，我去看一下

a010301208

zhuifeng88 发表于 2025-5-26 14:17
? 大半video模型你在说什么...

目前看来虽然还不完美但是确实不错可以用，非常感谢，今天有得玩了

a010301208

平安是福 发表于 2025-5-26 14:47
还没看呢，具体效率怎么样comfyui有原生节点支持吗

之前看了下comfyui有工作流视频，不过我还没弄，这边有个混元官方支持的他的，之前我怎么没发现

https://github.com/Tencent-Hunyu ... ltiple-gpus-by-xdit

a010301208

gyc 发表于 2025-5-26 20:14
什么平台？

之前楼下面不是发了

a010301208

kaixin_chh 发表于 2025-5-26 22:34
卧槽这个价格，电费都不够吧。csp怎么挣钱啊

a010301208

baoziking 发表于 2025-5-26 18:34
这是哪里，我挺感兴趣玩儿一下的。

看25楼

a010301208

chs 发表于 2025-5-27 09:50
生成可以多卡呀……vllm？

但多型号的显卡混用……坑会很大。

昨天楼上推荐的那个不错，可惜目前局限还是不少，昨天玩了会今天还是换回之前的了，还是多卡分开同时跑不同的流程比较好

a010301208

purityWang 发表于 2025-6-3 18:17
那如果需要上传大量数据，家里宽带会不会被特殊限制呢

是不是大量数据，你自己的训练数据资料有多大就是多大，平时就一个远程链接，不产生大量数据。

会不会限制看你一次性要上传多少了，你要上传100G那确实有可能

a010301208

purityWang 发表于 2025-6-3 18:22
一次15G左右呢

这种没问题的，很多模型都不止这点大。

而且你其实可以先上传网盘，然后远程服务器从网盘下载，智星云上WIN系统这种最方便，如果是LINUX系统你找个可以外链的网盘