一张图片、几句话就能生成色情视频？你敢信吗，这种“造黄”教程，已经在网上公开叫卖了。
近日，央视记者暗访发现，多个平台上，有人明目张胆地兜售“AI生成色情擦边视频”的教程。标题一个比一个露骨——“全网最强大尺度”“一张图手搓大尺度视频”，还号称学会了“日入五位数”。更离谱的是，这些教程不光教你怎么做，还教你怎么躲：用境外软件、把程序装在自己电脑上离线运行，手把手教你钻空子。
记者花十来块钱买了两组提示词，放到AI视频软件里一跑，几分钟就生成了半裸跳舞的视频，平台却一点反应都没有。这些人太清楚平台的审核机制了，提示词写隐晦点，敏感词翻译成英文，就能轻松绕过去。你想想，但凡他们把这份心思用在正道上，能干出多少正事？
还有更恶劣的。有的软件专门靠AI换脸生成色情视频赚钱，你上传一张照片，它就给你生成全裸照、色情视频。这不是打擦边球，这是赤裸裸的违法。
不光是视频，AI聊天软件也沦陷了。一些境外软件打着“拟人化陪伴”的旗号，聊的全是色情话题。用户里还有很多未成年人，拿色情内容去“喂养”一个涉世未深的孩子，这种伤害，比看得见的暴力更隐蔽。
AI技术是中性的，但用技术的人心里得有把尺子。平台嘴上说“拒绝色情”，可提示词稍微改改就认不出来了，这叫形同虚设。平台审核不能总等媒体曝光了才动，得主动查、常态化查。那些造黄教程的帖子，为什么能在平台上挂那么久？境外软件的灰色下载渠道，为什么畅通无阻？这些问题，得有人回答。
更关键的是违法成本太低。教程公开卖，软件随便下，被发现了大不了换个马甲继续干。这么低的代价，怎么可能拦得住？
与此同时，监管层面也在行动。今年4月，《人工智能拟人化互动服务管理暂行办法》公布；网信办也启动了“清朗·整治AI技术滥用”专项行动。
政策有了，关键是落地。技术没有价值观，但使用技术的人有。AI可以生成视频、可以聊天陪伴，但不能成为色情产业链的“加速器”。
关注小新说，了解更多新闻。（文/廖君琳 李心怡 剪辑/王志）
版权和免责申明
凡注有"浙江在线"或电头为"浙江在线"的稿件，均为浙江在线独家版权所有，未经许可不得转载或镜像；授权转载必须注明来源为"浙江在线"，并保留"浙江在线"的电头。
