记一下 Krea 2 Turbo 那个 W4A4 量化在 3090 上的数。
背景：20/30 系没有 FP8 张量核，网上「先转 FP8」那套通用建议在这些卡上经常还不如直接 BF16，这坑不少人一直没绕过去。这个量化就是冲这类卡做的，激活感知的 INT4 加一条低秩修正分支，不需要校准数据集，体积大概是常见 FP8 版的三分之一。
1024 出图、8 步、热启动：
- BF16：18.8 秒
- 纯 W4A4：6.5 秒，接近三倍
- W4A4 + 低秩分支：七秒多，还有 2.4 到 2.6 倍
修正分支大概吃掉一成单步时间，rank 从 16 拉到 256 只慢 4%，精度基本白送。
我觉得最有意思的是激活感知这项：按真实的逐通道能量去拟合分支，不再假设它均匀。推理时形状和 kernel 全没变，只是分支里的数不一样，可整个项目里精度收益最大的就是这一块。