深度合成技术滥用：糖水铺博主遭遇的AI黄谣，撕开了法律没补上的口子-武汉离婚律师

上个月和一线办案的警官朋友喝茶，他聊起刚结的一个案子。气的手都抖。那个叫小苏的姑娘，在广州大学城开了一家卖芋圆的糖水铺，闲了拍点日常穿搭发小红书，刚攒到一万多粉丝，连广告费都还没接过，就先接了一堆污言秽语的私信。有人问她“多少钱一夜”，有人说在本地的色情群看到了她的裸聊视频，甚至有人找上门问地址，说要“兑现承诺”。小苏当时就吓懵了，长这么大连恋爱都没公开谈过，哪来的裸聊视频？顺着线索摸到那个私密群，她一眼就看出来——脸是她的，身体根本不是。就是用AI换出来的。

作恶的门槛，低到你不敢想

抓到那个发视频的人，大家更气了。是同校刚毕业的一个男生，之前追小苏被拒，怀恨在心。他被抓的时候还一脸无辜，说“我就是网上花二十块买了个换脸工具，把她小红书的照片导进去，三分钟就出视频了，我又没真拍她，至于动警察吗？” 说实话，听到这里我后背发凉。现在深度合成技术滥用的可怕之处，就是作恶根本不需要你懂技术。不用写代码，不用找资源，只要有对方九张正面照片，随便找个私群里卖的盗版工具，点三下鼠标，就能生成你想要的任何内容。换脸造黄谣，声音克隆骗钱，连假的合同签名都能给你做的天衣无缝。去年我老家远房舅舅，还差点被深度合成的声音骗走八万。骗子克隆了我表哥的声音，打电话说自己酒驾撞了人，要私了赔钱，舅舅在医院赶著交钱，手机银行都输完密码了，还是舅妈多留了个心眼打了视频过去，才拆穿骗局。这种事，现在每个月都在各地发生。只是很多受害者碍于名声，不敢说出来而已。

受害者维权，难在哪？

小苏这个案子，其实能解决真的算幸运。警官朋友说，大部分同类案子，卡在好几个地方。第一，你要先证明这个内容是假的。很多平台要求受害者拿深度合成鉴定报告才给删帖，一份鉴定少说几千块，对普通上班族、学生来说，这就是一笔不小的开支。很多人扛不住这个成本，只能自认倒霉，看着黄谣满天飞。第二，作恶的人藏的太深。大部分换脸黄谣都是在私密群、小众论坛传播，你要找到发布者，要固定证据，全靠受害者自己跑，平台不给权限，警方办案也要一层层挖，很多时候等找到人，传播范围已经扩的收不住了。之前碰到一个女生，被前男友分手后用深度合成造黄谣，换了三份工作搬了两次家，还是有人能找到她的新地址指指点点。她找律师咨询，律师说要么定侮辱诽谤，要够一定传播量才能立案，要么告名誉侵权，打赢了官司也就赔几万块，对作恶的人根本没威慑力。很多作恶的人就是吃准了这一点，才敢肆无忌惮。他们拿“技术好玩”当幌子，拿“又不是我拍的”当挡箭牌，根本不觉得自己犯了多大错。

法律不能总跟在技术后面跑

不过话说回来，最近也有让人解气的消息。前几个月江苏判了全国第一起AI换脸造黄谣的刑事案件，被告人被判了有期徒刑一年，不是什么罚金道歉，是真的蹲大牢。这才对嘛。深度合成技术本身是中性的，但拿它来害人，就是刑事犯罪，没什么好辩解的。不能因为你用了AI工具，就把责任全推给技术，你点下生成按钮的那一刻，就是你作恶的开始。现在很多人说法律跟不上技术，其实不是。法律本来就是跟着普通人遇到的一个个案子往前走的，就是在一个个受害者的遭遇里，慢慢补上那些没堵住的漏洞。之前我们没有对付换脸诈骗的明确规则，现在有了；之前大家觉得造个AI黄谣顶多赔点钱，现在也有了判刑的先例。只是我们还是要提醒一句：你发在网上的每张照片，每个语音条，都可能被人拿去做深度合成。别随便给陌生人发自己的正面照，碰到不对劲的截图，第一时间报警，别自己扛着。毕竟，深度合成能换脸，换不了黑白对错。法律现在学走路，也是跟着我们普通人的脚步，一步一步，把那些钻技术空子害人的家伙，一个个拽出来算账。

深度合成技术滥用：糖水铺博主遭遇的AI黄谣，撕开了法律没补上的口子

作恶的门槛，低到你不敢想

受害者维权，难在哪？

法律不能总跟在技术后面跑

武汉离婚律师

文章目录

最新文章

热门标签