主播用“明星脸”带货，“AI换脸”乱象如何破？

2023年05月29日 07:06   来源：红网   

　　近日，网友发现一些普通的主播通过“AI换脸”技术，摇身一变成为杨幂、迪丽热巴等女星进行直播卖货。网站客服称，他们提供的AI实时换脸全套模型价格为3.5万。但有律师称该行为或涉嫌侵权。“AI换脸成明星进行卖货或涉嫌侵权”的词条很快冲上热搜。

　　事实上，这不是“AI换脸”技术第一次引发争议。今年3月某短视频平台上的特效师把影视剧中男主角的脸换成自己的脸，合成与女明星亲吻的影像，并在网络上出售“AI换脸教程”，也引发了网友的争议。“AI换脸”涉嫌侵犯了什么样的权利？“AI换脸”的底线在何处？“AI换脸”的乱象又该如何破？

　　以此次事件为例，这类主播贸然使用“明星脸”，只为冒充艺人增加卖点，吸引流量助力卖货，但这背后涉嫌侵犯相关明星艺人的肖像权、名誉权。有律师向媒体表示，主播通过“AI换脸”技术变成“明星脸”带货，是把他人的肖像据为己用，涉嫌侵犯肖像权；如果同时使用了女星的姓名，还会涉嫌侵犯姓名权。如果带货过程中有故意丑化或者损毁的情形，导致被换脸明星的社会评价降低，则涉嫌侵犯明星的名誉权。此外，如果利用AI换脸技术制作明星的色情视频，还可能涉嫌刑事犯罪。

　　而当“AI换脸”被不法分子用于实施电信诈骗时，则会危害到公众的诸多权益，产生恶劣的社会影响。据报道，近日有不法分子掌握了他人的真实姓名和照片，通过“AI换脸”和拟声技术冒充成他人和受害人打视频，博得受害人的信任，再进行诈骗，10分钟内骗走受害人430万元。可见，“AI换脸”使用的人的肖像，相比于其他个人信息更具敏感性、特殊性。如果放任“AI换脸”技术的滥用，会导致人脸这一“身份识别信息”的混淆与模糊化，继而导致传播秩序混乱，甚至导致电信诈骗防不胜防。因此对“AI换脸”技术进行限制十分有必要。

　　事实上，我国法律法规已明确规定了“AI换脸”行为应当遵守的边界。我国互联网信息办公室在2022年发布《互联网信息服务深度合成管理规定》，其中明确了：任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，并要求深度合成服务提供者应当建立健全辟谣机制。这为“AI换脸”技术应用划定了“底线”和“红线”。但我国目前仍然缺乏对人工智能的总体立法，以及人工智能伦理的行业规范。因此，想要使“AI换脸”等人工智能技术规范发展，还需完善相关法律体系和实施细则。

　　笔者认为，想要破解“AI换脸”乱象，还需从技术开发者、网络平台、用户等方面着手。首先，要控制“AI换脸”的技术源头，对“AI换脸”技术开发者建立完善备案手续。因为换脸技术的逼真性，普通人难以分辨，笔者提议，可以要求技术开发者在程序中预留“技术水印”，使用该技术制作而成的视频会被留下该水印。此举便于网络平台识别并标注通过“AI换脸”技术制作而成的视频内容。第二，网络平台需审核用户身份，这样才能把握AI合成视频发布者的身份，以便于落实主体责任。此外，网络平台还需要尽到预先审查义务，通过视频、音频、关键词、图形结构等方式进行事先的过滤、删除，避免“AI换脸”侵权行为的发生。第三，鼓励用户在使用网络平台的过程中对“AI换脸”的侵权行为进行举报。当上述环节形成合力，多管齐下，就能建设起有效的监管体系，对“AI换脸”乱象进行限制。

　　虽然“AI换脸”在影视制作、广告等场景下具有积极意义，但其引发的乱象和存在的风险需被重视。通过“技术水印”把握技术源头，落实平台责任，提高网民意识，建立完善人工智能的相关规范体系，相信“AI换脸”技术能够在法律法规的轨道内平稳运行。

（责任编辑：武晓娟）

分享到：

中经评论|  中经天天评|  网言众议|  经点热评|  理论前沿|  声音|  经济学人|  经济眼|  观察家|  专题 中国经济网版权及免责声明：
1、凡本网注明“来源：中国经济网” 或“来源：经济日报-中国经济网”的所有作品，版权均属于
　 中国经济网（本网另有声明的除外）；未经本网授权，任何单位及个人不得转载、摘编或以其它
　 方式使用上述作品；已经与本网签署相关授权使用协议的单位及个人，应注意该等作品中是否有
　 相应的授权使用限制声明，不得违反该等限制声明，且在授权范围内使用时应注明“来源：中国
　 经济网”或“来源：经济日报-中国经济网”。违反前述声明者，本网将追究其相关法律责任。
2、本网所有的图片作品中，即使注明“来源：中国经济网”及/或标有“中国经济网(www.ce.cn)”
　 水印，但并不代表本网对该等图片作品享有许可他人使用的权利；已经与本网签署相关授权使用
　 协议的单位及个人，仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
　 “经济日报社-中国经济网记者XXX摄”的图片作品，否则，一切不利后果自行承担。
3、凡本网注明 “来源：XXX（非中国经济网）” 的作品，均转载自其它媒体，转载目的在于传递更
　 多信息，并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的，请在30日内进行。

※ 网站总机：010-81025111 有关作品版权事宜请联系：010-81025135 邮箱：

网址：主播用“明星脸”带货，“AI换脸”乱象如何破？ https://mxgxt.com/news/view/482246

相关内容

假杨幂、假热巴……“明星”直播带货竟是 “AI换脸”
“主播”变“明星” 骗你没商量——AI换脸下的扭曲生意链
中青评论：张文宏遭遇“AI换脸”，虚假带货必须受严惩
张文宏带货蛋白棒？AI换脸调查：生成仅需几小时
【知识科普】“AI换脸”诈骗，怎么防？
AI换脸技术泛滥！多名女明星被换成不雅女主角，播放量几千万
79元买30张“脸”，谁在甩卖AI换脸工具？
滥用“AI换脸”技术伪造女明星涉黄视频，法院判了！
张文宏躺枪 AI换脸越陷越深
明星AI换脸用的什么软件

随便看看