思路是对的,但"8G显存跑全精度"这个说法我先打个问号。
这个量化版是在 StableYogi 那套 muse 基础上改的,关键在于没把整个网络一刀切成 4bit:blocks.0 到 blocks.3 这几层管几何、手、眼睛、皮肤纹理,保留高精度当语义锚点,其余的走 INT4 压。低比特量化最容易崩的就是构图连贯性和脸的几何,全局压到 4bit 脸基本就废了,所以分层保精度算是对症。
毛病出在宣传上。8G 能不能真跑顺得有人实测,作者贴的多半是理想情况;另外 Blackwell 那套 NVFP4 老卡本来就吃不到,标"RTX3000/4000通用"有点标题党。等有人真跑过再看吧。