曝光出来的这条AI造黄产业链,9.9元卖提示词、几句话就能生成大尺度视频,说实话圈内早不是秘密。工具本身是中性的,但开源模型加上没底线的提示词交易,灰产跑得比监管快得多。
平台端做审核、加水印这些都能绕,真正难的是提示词和微调模型在私下流通,根本堵不住源头。
这事往深了看是整个生成式技术滥用的缩影,不只是黄,诈骗、伪造一个都跑不了。
曝光出来的这条AI造黄产业链,9.9元卖提示词、几句话就能生成大尺度视频,说实话圈内早不是秘密。工具本身是中性的,但开源模型加上没底线的提示词交易,灰产跑得比监管快得多。
平台端做审核、加水印这些都能绕,真正难的是提示词和微调模型在私下流通,根本堵不住源头。
这事往深了看是整个生成式技术滥用的缩影,不只是黄,诈骗、伪造一个都跑不了。
圈内早不是秘密了
工具中性,问题在滥用的人
水印审核都能绕,堵不住源头的
提示词交易这块最难管,东西就几行字,换个群换个词接着卖