我们正在进入一个“耳听为虚”的时代

AI技术被滥用于伪造明星声音和形象进行虚假带货，涉及全红婵、古天乐、张馨予等公众人物，形成灰色产业链。受害者包括消费者和名人，平台审核缺位，法律监管滞后。尽管有立法进展和技术警示，鉴别AI造假仍依赖公众警惕。

• AI伪造泛滥：利用AI拟声换脸技术伪造明星带货视频，成本低至1元，形成灰色产业链。

• 全明星受害名单：从运动员到企业家，全红婵、雷军、刘晓庆等均遭AI盗用声音肖像。

• 暴利灰色产业：电商平台售卖“声音克隆工具包”，假带货广告播放量动辄百万，引流牟利。

• ⚖️法律被动应对：首例AI声音侵权案宣判，但平台警示标识效果存疑，中老年群体难辨真伪。

• 平台审核缺位：短视频平台未有效拦截AI造假内容，变相成为虚假带货推手。

• ️公众鉴别困境：AI技术逼真度提升，普通人需保持怀疑态度，成为抵御虚假信息的最后防线。

“全红婵带货土蜂蜜”“古天乐被游戏代言”“张馨予卖减肥药”……

当你震惊于又一波名人开始代言土味广告时，更让人震惊的事实是，这些广告大多跟名人本尊无关，而是大规模滥用AI拟声的商业欺诈。

近日，某短视频平台出现“婵宝小助理”“全妹福利号”等数十个仿冒账号，循环播放全红婵赛后接受采访的原始画面。但你稍加细看，很快便会发现端倪——画面中的全红婵仍穿着东京奥运领奖服，口中说出的却变成了“500单土蜂蜜，16块9发两斤”“驼奶粉对三高人群特别好”。

4月29日，全红婵父亲只能无奈发声，称有人用AI伪造全家声音售卖蜂蜜，他们对此毫无办法。

AI全红婵的带货广告。图/社交媒体截图

在此之前，相似的AI拟声骗局早已蔓延——去年12月，“张文宏”讲解某品牌蛋白棒的AI假视频走红网络，因其形象与声音高度逼真，导致大量中老年消费者受骗下单，销量一度破千；

还有平台利用AI技术，将古天乐、林峰等港星的肖像、声音及视频片段，合成为线上赌博、游戏的代言宣传片，逼得两人的经纪公司不得不出面辟谣；

就连小米CEO雷军的标志性普通话也没能幸免，从鬼畜视频里的“Are you OK”，变成了虚假理财广告里“稳赚不赔”的吆喝……

从明星、学者、运动员到知名企业家，AI假带货的受害者名单里还包括靳东、刘晓庆、刘德华、杨天真、倪萍、潘玮柏、张伯礼……甚至是每一个普通人。而实现这些，最低只需要一块钱，便可以在二手平台上买到一套“声音克隆工具包”。

两年前，“AI孙燕姿”翻唱《发如雪》引发全网热议时，人们更多是惊叹技术的突破。但当任何人都能用App一键生成明星带货视频、假带货广告播放量动辄破百万，事情已经彻底变了味。

正如一位网友所说：“以前担心照片是P的，现在连声音都不能信了，科技到底在保护谁？”

AI拟声带货，防不胜防

“减肥不是不吃，而是学会吃。”视频里，张馨予正对着镜头分享减肥心得。当画面切换到本人身材高挑的写真照时，这位女明星突然话锋一转，开始推荐起某品牌减肥药：“早上饭后冲一杯，专门提代谢，我就是靠这套方法瘦到106。”

视频全程没有一丝卡顿和机械感，连口型都顺畅对上——如果不是当事人亲自辟谣，谁都想不到这段视频里的声音、表情全是AI伪造。

4月18日，张馨予在社交平台发文称，有商家利用AI技术复制其声音售卖减肥药，自己从未推荐过任何减肥药，将追究到底。一位差点付款的宝妈告诉《新周刊》：“视频我反复看了三遍，要不是看到评论区有人提醒，我肯定要下单了。”

张馨予曾在社交平台发文辟谣。 图/张馨予微博截图

事实上，同样的套路已被批量复刻到抖音、快手、B站、小红书等视频平台上。

其中，热播综艺成了重灾区——在《一路繁花》的吃饭片段里，刘晓庆夹鱼的镜头被P上“诗诺千君贴”广告，字幕还打着“提高代谢”的宣传语。当事人无奈在3月3日回应称：“画面是我的脸，声音像我的声音，但真不是我”。

而在另一档综艺中，女星“应采儿”也表示自己孩子有几年一直不长个，后来给他弄了元德吉钙一下长了几厘米，“谢娜”还在一边帮腔：“杨紫跟我说过。”

打开相关搜索栏，各类保健品、减肥药的“代言人”名单堪称全明星阵容，就连张伯礼院士都得出来为某“国货品牌”站台……

“这些视频就像流水线生产的赝品，把综艺片段当原材料，用AI改字幕、换配音，最后贴上商品链接。”某直播从业者告诉《新周刊》，“本质是低成本引流起号，还能规避代言费用”。

AI拟声热度四起背后，也衍生出一条暴利的灰色产业链。在某电商平台搜索“AI配音”服务，有商家直言：“明星声音200元一条，素人50元，包教包会”。

“AI李鬼”猖獗，受害者名单在不断加长。明星们在面对肖像权、名誉权双重侵害的同时，消费者也更容易误购劣质商品。

据《咸宁日报》报道，AI拟声带货的商品存在资质不明、厂商不清等问题，涉事店铺多为2024年新注册账号，宣传封面、产品包装、文案说辞几乎一样。而本该承担审核责任的平台，也没有提示“该画面可能由AI生成，请注意鉴别”，客观上成为了“假带货”风气的推手。

谁偷走了我们的声音？

我们正在进入一个“耳听为虚”的时代。

今年两会期间，企业家雷军自称成了AI拟声的受害者。在无数短视频切片里，“假雷军”用标志性的湖北普通话吐槽堵车、调侃调休，逼真到网友集体@雷军本人：“这是不是你小号？”。

除了伪造公众人物带货营销，AI换脸、拟声技术还被用于普通人的诈骗。前不久，有骗子用AI合成靳东的声音陪老人聊天，骗走近百万养老钱。而据央视新闻报道，福建一位公司老板和“合作伙伴”视频通话10分钟，看着熟悉的样貌、听着熟悉的声音，当场转了430万，结果对方却是AI合成的假人。

某AI拟声平台。 图/社交平台截图

这些以假乱真的声音到底从何而来？

一名长期观察人工智能的学者曾向《新周刊》解释，只需采集声音中的频率、音色、声调等关键特征，配合语速和情感参数，即使少量样本也能在几秒内完成克隆。

至于声音样本的采集方式更是多样——可能是接到的推销电话，可能是视频网站上的公开演讲，甚至是网购时客服的“求好评”回电。

另一方面，AI拟声应用也从未像今天这样唾手可得。“现在实施AI换声诈骗的技术门槛，相当于在手机里安装一个修图App。而且换声、换脸的逼真度会越来越好，普通用户会愈来愈难以鉴别或区分。”上述专家称。

在手机应用商店里，“AI配音”相关App有数十款，下载量最高超千万次。一款AI拟声App的客服人员就曾表示，花198元就能解锁付费会员，对着镜头说几遍“12345”，AI就会根据声音生成各类内容的出镜口播视频，且录入名人声音不需要提供任何授权证明。

互联网上的AI声音克隆攻略也随处可见。光是在小红书上，有关“AI合成明星声音软件”的帖子就多达4w+条。闲鱼App上，一次AI声音克隆更是低至10块以内，这意味任何人都可以低成本地获得自己想要的AI明星声音，其中，还有博主用自己孩子的声音素材，合成了“AI版新闻联播开场白”。

“假如AI换脸拟声被过度滥用，或许将来某一天，我们不得不在发布真实录制内容时进行声明，强调内容的真实性。整个社会对真实性的鉴别成本将会非常高，必须采取办法避免该技术泛滥成灾。”中国传媒大学副教授张鹂在接受《潇湘晨报》采访时曾表示。

目前，国内正在立法上重视此类问题。2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，首次明确自然人声音权益的保护范围可及于AI生成内容。此外，类似“白名单制度”也会在9月1日上线，让以往难以辨别的AI作品“持证上岗”。

然而，这行写着“内容为AI技术制作，请谨慎甄别”的半透明小字，实际效果如何仍需打个问号。先不论那些蚂蚁大小的水印，戴着老花镜的中老年人能不能看清。大部分人连AI是啥都搞不懂，刷到AI换脸的养生专家视频时，只会纳闷：“这视频里的人明明在动，咋会是假的？”

归根结底，无论是AI拟声、换脸还是频频爆出的AI假新闻，保持怀疑与求证，或许才是我们应对虚假内容的最后堡垒。毕竟，被AI偷走声音的，全红婵们不是第一个，也不会是最后一个。

网址：我们正在进入一个“耳听为虚”的时代 https://mxgxt.com/news/view/1085709

相关内容

周淑怡、李艺彤套皮出道，虚拟主播进入真人时代？
林阳：我、我们，和一个正在远去的时代
数字音乐时代：创新科技如何重塑我们的听觉盛宴
林更新、陈赫、任泉、杜海涛入股的分享时代计划IPO，明星虚拟产业正在兴起
情话说给左耳听，但我们马哥的左耳承受的太多了！
9年过去，国内第一代虚拟歌手“洛天依”还在为听众带去新作品
【耳听八方】是个什么样的李白
新年献词正在进入“宫体诗”时代
虚拟偶像进军综艺市场，虚拟造星时代已来？
在虚假信息横行的时代，明星如何重塑自我形象？

随便看看