Gemini App要给AI生成图片加验证能力了

设想一张图在群里转了三四手:先被截屏,又被人加了行字重新导出,到你手里已经压得发糊。这时候要判断它是真拍的还是AI生成的,靠肉眼基本没戏,现在的生图早就以假乱真了。

所以Gemini App要引入AI图像验证能力,方向上我举双手支持。普通人既没能力也没工具去鉴别,这件事只能由平台出面,提供一个能核验来源的机制,这一步算是踩在点子上。

不过上面那个场景,恰好就是它最难的地方。一是验证能不能扛住二次编辑、截图、压缩,过完这几道还识别得出来;要是一改就失效,那只能在最理想的情况下用,放进真实的传播链里基本派不上用场。二是生态里各家愿不愿意统一标准。只有一家做,覆盖面终归有限,图在别家生成、在别家平台流转,这边的验证就够不着它。

真伪溯源早该被当成基础设施来建,而不是某个App里的附加功能。盼着这一步能带动更多平台跟进,别最后变成各做各的、谁也不认谁。

元数据那类一截图就丢,得靠嵌进像素里的隐水印才有戏

水印类方案压缩截图后掉得厉害,拭目以待

就怕各做各的标准 :man_facepalming:

以后交付客片会不会也被要求标注来源

二次编辑一过基本就废,截个图重存一遍标记都能掉