把 Anima 换成 int8 量化版,老卡终于喘过气了

这两天把 Anima 从 bf16 换成了 int8 量化版,过程和数字顺手留个底。

换之前:bf16 大概 2.2 it/s,老卡跑得挺吃力,显存也紧。
换之后:直接到 3.2 出头,快了差不多一半,显存还省了一半左右。画质我挑了几张肉眼对比,基本看不出掉,官方说保留九成质量,这个我是信的。

最省心的是不用折腾节点。新版 ComfyUI 里它能直接当原模型的替身用,不装任何自定义节点,把路径一改就能跑,原来的工作流一根线都不用动。

接着又叠了个 turbo lora,把 cfg 拉到 1,速度能干到 6.5 it/s,再配上 torch compile 更夸张。到这一步老卡基本不算瓶颈了。

至于 mxfp8,只有 50 系 Blackwell 能吃,我没这卡,试不了,看别人说提升也有限,就没惦记。

所以低端卡、显存紧的,闭眼上 int8 就行。省下来的时间,比那一成画质值钱多了。

同款老卡换int8确实回血,就是量化完细节会掉一点,跑动漫脸问题不大