purityWang 发表于 2025-1-24 18:56

请教一下炼丹的牛们

请教一下,解决炼丹中途出现的爆显存有什么思路和tips

momo77989724 发表于 2025-1-24 18:58

优化参数,然后加钱。。。

开玩笑的。。。 内存不够一般是这么说

purityWang 发表于 2025-1-24 19:20

momo77989724 发表于 2025-1-24 18:58
优化参数,然后加钱。。。

开玩笑的。。。 内存不够一般是这么说

哈哈
炼丹途中,都过了200多个steps再爆显存,感觉是哪儿累加了没释放,但不看具体的tips,不好找

manwomans 发表于 2025-1-24 19:28

有个累加梯度啥的打开试试
英文忘了是啥了

mythgo 发表于 2025-1-24 19:39

打开闲鱼把显卡挂上去,打开autodl开始选购

purityWang 发表于 2025-1-24 19:56

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

已经打开了

purityWang 发表于 2025-1-24 19:59

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

说的是grading_accumulation_steps吧,已经打开了,设置了8

purityWang 发表于 2025-1-24 20:00

manwomans 发表于 2025-1-24 19:28
有个累加梯度啥的打开试试
英文忘了是啥了

gradient_accumulation_steps
页: [1]
查看完整版本: 请教一下炼丹的牛们