深度合成技术滥用:你朋友圈里那个在卖唇釉的熟人,可能连人都不是

上周三在珠江路拐角的咖啡馆碰了个姑娘,小余,26岁,做美妆分销的。

她把手机往我桌上一摔。

屏幕亮着,是她自己的抖音号——视频里的她涂着她主打的那款蜜桃色唇釉,梨涡跟本人一模一样,张嘴就喊“家人们今天拍一发三”。

我刚喝进嘴的冰美式差点喷在电脑屏幕上。

这根本不是她拍的。

她上周在外地出差,手机掉了,补完卡登抖音,后台跳出来17条未读私信。有人追着问她“之前说的敏感肌面霜链接呢”,还有人骂她“上周直播卖的唇釉我用了烂脸,你别跑”。她翻了半小时才反应过来:有人攒了她朋友圈30条日常素材,喂给了深度合成工具,捏了个24小时不停播的虚拟号,连她说话带点南京口音的尾调都仿得七分像。

你以为很远的“换脸”,现在已经能精准薅到普通人的钱包



之前大家对深度合成滥用的印象,还停留在明星换脸拍小电影,或者新闻里骗企业老板的几百万大案。

根本没人想到。

现在的工具门槛已经低到离谱——小余找做技术的朋友扒了下那个仿她的账号,用的根本不是什么专业级的生成模型,就是某款面向短视频博主的“数字分身”工具。充299块月卡,上传10分钟本人日常素材,就能生成跟你表情、语气完全匹配的数字人,还能自动匹配直播脚本,连弹幕里的问题都能实时接。

小余当时愣了。

她前两周还跟我吐槽,说做直播太耗精力,每天要坐四五个小时对着镜头,眼睛都快花了,当时还差点下单买那个数字人工具。

谁能想到,先拿她的脸用的,是躲在网线后面的陌生人。

说实话,这种事真的不是个例。我上个月接的咨询,有个住在南湖的退休张阿姨,被人用她老伴的脸,合成了一段“急需转2万块做心脏支架”的视频,发给了她远在深圳的女儿。女儿当时急得要转钱,幸亏阿姨刚好在旁边擦桌子,凑过去扫了一眼——视频里的老伴,右手手背上的老年斑位置不对,才硬生生拦了下来。

普通人手机收到AI合成仿冒好友的诈骗消息截图
普通人手机收到AI合成仿冒好友的诈骗消息截图


你说吓人不吓人?

之前我们总说深度合成的风险是“未来的事”,要等技术成熟了再慢慢规范。现在倒好,规则还没摸透呢,镰刀已经伸到普通人的口袋里了。

现在的规则,还追不上钻空子的人有多鸡贼



很多人会说,那发现这种仿冒号,举报让平台封了不就完了?

没那么简单。

上周跟平台做审核的朋友吃皮肚面,他说现在的深度合成账号跟打游击似的——封一个,换个手机号注册,换个素材包,十分钟就能再开一个新号。更绝的是,现在有人专门把合成的视频剪得特别碎,15秒一个片段,没有连续的人脸特征,你审核的时候根本认不出来这是合成的。

按照现在的《互联网信息服务深度合成管理规定》,所有深度合成生成的内容,必须加显著的可识别标识。可那些钻空子的人,才不会乖乖遵守。

那个仿小余的账号,从头到尾没打任何AI生成的标识。账号资料全是抄的——头像是小余三年前在中山陵拍的自拍,简介跟她本人的号一字不差,连之前发过的“今天去老门东吃蒋有记锅贴”的动态,都原封不动搬过去了。

短视频平台上AI生成无标识仿冒普通人的账号主页截图
短视频平台上AI生成无标识仿冒普通人的账号主页截图


我之前试过用某款生成工具,上传了小余的一张照片,让她举个写着“我欠你500块”的硬纸牌。生成的视频我来回看了三遍,都没找出破绽——她举牌子的手,指甲上是上周刚换的裸色美甲,连手腕上戴的那个银镯子的划痕,都跟她朋友圈发的照片一模一样。

你说这要是被人拿去跟债主说“我现在没钱还你”,谁能想到是假的?

做风控的朋友跟我吐槽,说他们现在识别深度合成内容,全靠找细节——比如视频里的人耳朵是不是缺了一块,说话的时候嘴唇跟声音是不是对得上,手指的数量是不是正常。

可问题是,普通人刷短视频的时候,谁会盯着屏幕数人家有几根手指啊?

对吧。

别等被骗了才反应过来,你的“脸”已经是能被随便复制的数字资产



之前很多人觉得,我又不是明星,又不是大老板,谁会闲着没事合成我的脸?

错了。

现在的黑产根本不挑。你朋友圈发的自拍,你抖音发的日常片段,你在小区业主群里发的语音,这些零散的素材攒够了,就能捏一个跟你一模一样的数字人。去骗你通讯录里的好友,去冒充你给你的客户发消息,甚至开个直播卖三无产品,最后锅说不定还要你背。

我去年碰到个做建材销售的小伙子,就栽过这种事——有人用他的脸合成了一段“给大家发福利,扫码进群领优惠券”的视频,发在他之前加过的5个客户群里,群里30多个人扫了码,总共被骗了快两万块。最后警察找到他的时候,他整个人都傻了,说那天他在公司开了一天的项目会,根本没发过什么视频。

折腾了快俩月,才把他的嫌疑洗清。

他跟我说,那俩月他睡觉都睡不好,总觉得哪天自己的脸又被谁拿去干点什么糟心事。

说真的,我第一次碰到这种事的时候,觉得特别荒诞。

我们花了那么久,才把“数字身份”跟真实的自己牢牢绑定,现在倒好,技术走得太快,快到你还没反应过来,你的数字身份已经成了别人能随便拿走的东西。

前阵子去老门东逛,碰到个卖糖粥的陈阿姨,她跟我说,她现在拍短视频都要特意把脸挡一半。“我又不会直播卖货,露那么多脸干嘛,万一被人拿去骗我家老头怎么办?”

你看,根本不需要什么专家天天在台上讲大道理,普通人的适应速度,其实比规则跑的还快。

现在法律其实已经在追着这些事跑了——最近出的司法解释,明确了用深度合成技术侵害他人肖像权、名誉权的,要承担赔偿责任,要是用来实施诈骗的,还要追究刑事责任。但法律永远是事后的惩戒,普通人的事前防护,真的太薄弱了。

我身边现在已经有好几个做博主的朋友,发视频之前都会特意在角落打个淡淡的、只有自己知道的水印。不是防同行盗视频,是怕自己的素材被人拿去喂给生成模型。

上周小余给我发消息,说她现在把之前的所有社交账号都设成了私密,发日常的时候,都会在视频角落打个小小的、只有她能认出来的标记。

她说等下次再碰到有人用她的脸卖货,她一眼就能认出来。

你看,我们哪是在等法律把所有漏洞都补上啊。

我们都是一边踩坑,一边学着怎么在这个满是合成内容的世界里,把自己的那点真实,牢牢攥在手里。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:深度合成技术滥用:你朋友圈里那个在卖唇釉的熟人,可能连人都不是
文章链接:https://www.wuhanlihunlvshi.com/cases/3560.html