请教一下炼丹的牛们

purityWang · 发表于 2025-1-24 18:56

请教一下，解决炼丹中途出现的爆显存有什么思路和tips

momo77989724 · 发表于 2025-1-24 18:58

优化参数，然后加钱。。。

开玩笑的。。。内存不够一般是这么说

purityWang · 发表于 2025-1-24 19:20

momo77989724 发表于 2025-1-24 18:58
优化参数，然后加钱。。。

开玩笑的。。。内存不够一般是这么说

哈哈
炼丹途中，都过了200多个steps再爆显存，感觉是哪儿累加了没释放，但不看具体的tips，不好找

manwomans · 发表于 2025-1-24 19:28

有个累加梯度啥的打开试试
英文忘了是啥了

mythgo · 发表于 2025-1-24 19:39

打开闲鱼把显卡挂上去，打开autodl开始选购

purityWang · 发表于 2025-1-24 19:56

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

已经打开了

purityWang · 发表于 2025-1-24 19:59

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

说的是grading_accumulation_steps吧，已经打开了，设置了8

purityWang · 发表于 2025-1-24 20:00

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

gradient_accumulation_steps

账号		自动登录	找回密码
密码			加入我们

[显卡] 请教一下炼丹的牛们