直播间骗子，用上了科技与狠活

发布时间：2024-12-25 23:13

随着科技飞速发展，直播带货的套路也越来越有“科技含量”了。

近日，央视曝光了一种“AI假冒名人带货”的套路。具体来说就是使用“深度伪造技术”，生成和名人一模一样的“数字人”，伪造他们的形象和声音获取观众信任，进而直播带货。

图源：央视新闻

比如张文宏医生就是这种“冒牌直播”的受害者。最近有网友反映，家中老人在某视频平台上，看到了张文宏医生在卖一种蛋白棒。老人信以为真，不仅下单还转发多个群聊。

只见视频中的“张文宏”医生正襟危坐，一本正经地介绍一种“白芸豆威化蛋白棒”产品，面容和声音与真人非常相似，需要仔细甄别才能看出是AI伪造的。

图源：央视新闻

张文宏本人看到自己的形象被AI盗用后，也是既生气又无奈：“有很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我在发现这个事情后立即投诉过那个AI合成的视频，但是他的账号一直在换，我最后也没有精力了。”

图源：央视新闻

目前，该“冒牌张文宏”的账号已搜索不到，但此前商品橱窗中显示由AI带货的产品已卖出1200多份。

当然，形象被盗用作带货的受害者，远不止张文宏医生。随着AI合成技术愈发成熟，再加上已被频繁应用在短视频制作中，AI合成冒充名人的骗局愈来愈频发。

今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。

图源：微博

更早之前，还有人用AI合成刘德华的声音为其账号引流，并售卖商品。事发后刘德华经纪公司发表声明，称这种行为已严重侵害刘德华先生的肖像权、姓名权及声音权益，并涉嫌构成诈骗。

图源：央视新闻

的确，如果只是借助AI制作娱乐视频也就算了，一旦涉及商业目的，性质就完全不同。毕竟不少消费者是冲着有名人背书才下单购买商品，AI冒充名人不仅是一种欺骗，更损害了名人的名誉权，甚至对其商业价值造成不可估量的损害。

之所以AI假冒名人会让不少消费者上当，很多原因是背后的技术较为先进，普通人平日接触较少，缺乏了解。

以“AI张文宏”为例，其至少用到了两种技术。第一种是深度伪造技术，它可以基于深度学习的人脸交换和视频合成技术，通过训练神经网络模型来生成逼真的假视频或图像，将一个人的脸部特征移植到另一个人身上，或者完全创造一个不存在的人物。

第二种是语音合成技术和声音克隆技术。语音合成技术可以将文本转换成自然流畅的人类语言音频，而声音克隆则更进一步，能够模仿特定个体的声音特点，使得生成的声音听起来像是某个具体的人所说的话。

同时，AI假冒名人背后的团队往往具有较强的反监测意识，一方面他们不进行明确的“身份主张”，只用模棱两可的话术暗示；另一方面他们避开流量高峰，只在午夜场露面。

不过，对于这些利用AI生成有害内容的人，平台倒有的是办法应对，并且毫不手软。

12月15日，腾讯官方平台“微信珊瑚安全”发布公告，称已结合用户举报、日常巡查等线索，从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理，截至当日，累计处置内容532条，关闭账号209个。

图源：微信珊瑚安全

此外，今年3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

结合近日央视报道相关事件来看，国家对AI的滥用也十分关注。今年9月14日，国家网信办起草了《人工智能生成合成内容标识办法（征求意见稿）》，随着相关规则的完善，不法分子的容身之地也会越来越小。

那么，对于普通人来说，又该如何识别哪些内容是AI生成的，防范不法分子利用AI设下的陷阱呢？

首先，看平台标识。目前主流的短视频、直播平台对于部分AI生成内容会有标注，看到相关提示时即可甄别内容真伪。

其次，看发布者信息。当看到“名人代言”等营销类视频时，简单有效的鉴定方法就是查看视频发布者的具体信息，视频平台会对知名人士、团体的账号进行认证，可以通过平台认证来分辨一些冒充名人的“高仿账号”。

再者，看商品信息。无论商品如何宣传，在购物前要仔细确认商品详情，在正规电商平台下单购买，必要时可以联系客服咨询，在购物后要保存好购物信息。

最后，如果不小心上当，完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。

正所谓凡事都有两面性，AI对于直播带货并非都是负面影响，如果正确利用AI，对生意的提升作用也是立竿见影。

以京东为例，4月，刘强东以“采销东哥”AI数字人的形式出现在京东家电家居、京东超市的采销直播间，开始直播带货。这场直播在不到1小时内吸引了超过2000万的观众，并实现了超过5000万元的成交额。

也就是说，在不损害他人权益、不违反平台规定的前提下，合理利用AI说不定会有奇效。

比如，去年以来美团力推外卖店铺直播，为数字人直播提供了需求场景。由于这些数字人是生成的虚拟形象，不涉及肖像权的侵犯问题，再加上AI数字人不需要支付薪水，可以24小时不间断直播，大大降低了店铺的人力成本，为生意带来了新的增量。

当然，AI数字人只是为直播带货提供了一种可能，并非适用于所有的品类。比如美妆、服装等与观众互动较强的品类，或是图书等看重个人IP的品类，就难以被AI所替代。

总之，AI带货是一把双刃剑，全看使用者的用法。用得好，利国利民，用不好，贻害无穷。

网址：直播间骗子，用上了科技与狠活 https://mxgxt.com/news/view/495688