参数都卷疯了，这位反着来玩小的。qwen3 0.6b 做成 int8 扔上来，理由就俩字：好玩。本来就小不点，再压一道，树莓派估计都不带喘。精度不用谈，图的是跑通量化转换那点手感，不夸性能不画饼，看着挺解压。
反卷小模型才是清流
1 个赞
顶 
0.6b上int8掉点不明显，压到int4就开始胡说了
小模型这条线现在没几个人认真做，纯折腾的反倒留下点东西