炼完lora拿去测出图,sdxl这边突然报NansException,说Unet里生成了全是NaN的tensor,提示要么精度不够、要么显卡不支持half。
出来的图一片黑,或者纯噪点,重开也没用。差点以为是模型练崩了,查了一圈,最后定位到是vae的锅。换成sdxl专用的vae fp16 fix版本就好了,之后跑sdxl固定挂这个vae,基本没再犯。
这个fp16修复版vae在civitai和huggingface都能搜到。同样卡在这的,先从vae下手,别急着怀疑自己模型。
炼完lora拿去测出图,sdxl这边突然报NansException,说Unet里生成了全是NaN的tensor,提示要么精度不够、要么显卡不支持half。
出来的图一片黑,或者纯噪点,重开也没用。差点以为是模型练崩了,查了一圈,最后定位到是vae的锅。换成sdxl专用的vae fp16 fix版本就好了,之后跑sdxl固定挂这个vae,基本没再犯。
这个fp16修复版vae在civitai和huggingface都能搜到。同样卡在这的,先从vae下手,别急着怀疑自己模型。
webui里加–no-half-vae也能顶一下,就是慢点
存了