Muse Image 这个模型本身画得怎么样我暂时不评价,真正让人炸锅的是素材来源——直接取用了用户自己上传的照片。平台那边大概会说条款里早就写了授权,法律上未必输,但用户当年发照片的时候,想的是给朋友看,不是喂给一个生成模型。这两件事在感受上差得太远,反对声这么大一点都不奇怪。
从做安全的角度看,最难办的是不可逆。图片一旦进了训练集,权重里那部分影响没办法定点抹掉,所谓的退出选项一般只对以后生效。真想给用户一个说法,至少要把范围、时间点、能不能撤回讲明白,光发一份声明说重视隐私,没有任何约束力。