凌晨三点，演员吴越喊话一个叫“花姐”的人：“你骗了多少人的钱？请如数奉还！”为什么这么生气？因为有人用AI克隆了她的声音、合成了她的脸，让她在视频里“亲口”推销一款精华液，说“这个产品不是他们找我，是我找他们的”。讽刺的是，涉事视频甚至还标注了“含AI生成”，造假的人连藏都懒得藏了。
这件事恶劣在哪？不只是偷了一张脸、偷了一个声音。同一账号下面，邓亚萍也被用同样的套路“安排”了带货视频。这说明它不是偶发的恶作剧，而是一条跑通了的生意。找有名的人，用AI把脸和声音一起搬过来，让消费者冲着“名人推荐”下单。被骗的人，掏的是真金白银。
根据《民法典》第一千零二十三条，对自然人声音的保护参照适用肖像权保护的有关规定。9月7日出台的最高人民法院《关于依法审理涉人工智能纠纷案件的意见》第四条进一步规定：除法律另有规定的外，未经自然人同意，使用自然人的声音作为训练语料，模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声，该自然人主张行为人侵害其声音权益的，人民法院依法予以支持。在司法实践里，北京互联网法院审理的全国首例AI声音侵权案，配音演员的声音被AI化后公开售卖，判赔25万元。上海一中院今年9月判的一起AI合成语音案，平台运营方也被判赔5万元。
这些都在表明，规则已经有了，判决也在往下落。
但问题在于，维权的速度和造假的速度，完全不对等。一位长期处理这类案件的律师表示：明星对这类视频“真的很无力，打官司打不过来，赔偿也不高，但就是这么肆无忌惮”。侵权主体分散在数据采集、模型训练、内容生成、平台传播各个环节，仿声音频一剪、跨平台一转，溯源极难，被侵权的人连该告谁都要费很大劲。违法成本低、维权成本高，这就是AI仿声带货越打越多的结构性原因。
更值得警惕的是，这条路往下走，不只是民事赔偿的问题。之前假靳东的案子已经演示过了：用AI换脸、拟声冒充名人，骗中老年女性“谈恋爱”、骗转账，8个人最后是以诈骗罪被提起公诉的。吴越这次遭遇的是“带货骗钱”，假靳东是“情感骗钱”，但底层逻辑是同一个：用AI把一个人的身份“偷”过来，换成自己的提款机。如果AI仿冒名人带货被认定构成欺诈，消费者还可以依据消费者权益保护法主张“退一赔三”。
所以，光靠被侵权的艺人发微博痛斥，是堵不住这个窟窿的。平台必须把责任前置：训练数据从哪来的、生成内容有没有授权、同一个账号反复出现AI仿冒名人怎么处置，这些不能等出了事再“配合处理”。制度层面，AI生成内容的标识要落到可追溯的程度，让“含AI生成”不再是一行摆设。技术本身不背锅，但用技术偷声音、偷脸去骗钱的人，法律得让他们把吞进去的吐出来，还得付出比“赚到的”更疼的代价。
关注小新说，了解更多新闻。（文/李心怡 剪辑/叶媛媛）
版权和免责申明
凡注有"浙江在线"或电头为"浙江在线"的稿件，均为浙江在线独家版权所有，未经许可不得转载或镜像；授权转载必须注明来源为"浙江在线"，并保留"浙江在线"的电头。
