被工信部要求自查整改！一夜爆红的AI换脸App“ZAO”彻底降温

9月4日，工信部官方发布消息，9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工信部对北京陌陌科技有限公司相关负责人进行了问询约谈，要求开展自查整改。

不到一周，从爆红刷屏社交圈到深陷舆论旋涡，AI换脸App“ZAO”经历了大起大落。

在这背后，被称为霸王条款的用户协议或并不是问题的重点，有业内人士指出，真正应该担忧的是，当人工智能强大到可以以假乱真，当深度学习的操作门槛越来越低，当技术突破底线，用户如何保护自己的隐私和个人信息安全？

图片来源：图虫创意

1

给“ZAO”降温

天眼查显示，“ZAO”的运营主体为长沙深度融合网络科技有限公司，其成立于2017年9月20日，由海南喵咖网络科技有限公司100%控股，后者由王力和雷小亮各持股50％，王力是陌陌公司董事、总裁及COO，雷小亮则是陌陌联合创始人。

今年7月，长沙深度融合网络科技有限公司曾发生股东变更，变更之前的股东是北京陌陌科技有限公司。

事实上，“ZAO”正是由陌陌内部快速孵化的一款产品，在上周末刷屏社交网络，但仅火爆了一天，便有越来越多的质疑声出现。

首先是有用户发现，“ZAO”的用户协议中存在大量霸王条款，可能会对用户的隐私、信息安全造成危害；随后越来越多的用户开始担忧AI换脸可能被用于人脸支付，用户财产安全、肖像权会遭到侵犯。

用户的质疑与抵制迅速给“ZAO”泼了一盆冷水，而工信部的要求自查整改无疑使“ZAO”彻底降温。

官方消息显示，工信部要求陌陌公司相关负责人严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。

同时，陌陌公司还要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

据媒体报道，9月4日，针对被约谈问询一事，“ZAO”运营团队回应称，上线以来，一直和各主管部门保持着积极顺畅的沟通，将严格按照法律法规和各主管部门的要求，按照更加严格的标准，全面加强内容管理、完善各项管理机制，确保用户个人信息安全和数据安全。

2

敏感的隐私问题

在8月31日一下子成为现象级产品，刷屏网络后，很快有人发现“ZAO”的用户协议存在不妥的条款。

用户协议第6条第（2）项提到，如果用户把视频内容中的人脸换成自己或其他人的脸，用户同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。

北京康达律师事务所律师韩骁向《国际金融报》记者表示，“ZAO”App用户协议中的这一条款明显属于《合同法》四十条规定的免除自身责任，加重用户责任的无效格式条款。

韩骁称，单纯用户协议的规定并不构成用户隐私权、肖像权的侵犯，但若App将用户或不知情第三人的照片、视频等上传素材作盈利使用，或泄露权利人的个人隐私，造成相关权利人权利损害，则涉嫌侵犯隐私权和肖像权。

由于大量网友的质疑，9月3日，“ZAO”官方微博发布四点说明：“ZAO”不会存储个人面部生物识别特征信息；“ZAO”所呈现的“换脸”效果，是通过后期技术叠加所实现的虚构图像，并没有采集任何个人生物识别特征；使用“ZAO”不会产生支付风险；用户删除信息或注销账号，“ZAO”均会依据相关法律法规的规定删除相应信息。

不过，律师认为，在发布这款产品时，“ZAO”侵害他人肖像权的风险已经存在。韩骁表示，“ZAO”换脸App提供用户各类明星的肖像素材，若该App未经肖像权人同意作为盈利使用，则涉嫌侵犯明星的肖像权。

3

谨防伦理风险

在“ZAO”App中，用户仅需上传一张照片，就可以将影视作品中的赌神周润发、小燕子赵薇、野蛮女友全智贤换成自己的脸，正如其宣传语“仅需一张照片，出演天下好戏”一般，“ZAO”深度洞察名人效应和猎奇心理，迅速吸引大量用户体验“明星梦”、“名人梦”。

对于很多“资深”网络用户来说，AI换明星脸并不陌生，很多人第一次看到这个技术是在今年年初，有人将《射雕英雄传》中朱茵的脸换成杨幂，并发布到网上，彼时网友惊呼“几乎毫无违和感”。

对于更熟悉人工智能的群体来说，AI换脸在国外已经火了好几年了。在2017年，一位用户名为deepfakes的程序员通过AI工具、机器学习算法，将明星的脸与色情视频演员的脸进行交换，很多欧美知名的女明星都曾中招。

由于受害者的投诉和大量的质疑声，deepfakes账号被封杀，但事态演变方向越来越严重，这项技术的代码直接被开源放到了GitHub上，AI换脸技术也由此被命名为“deepfakes”。

如今，通过开源工具，更衍生出了fakeapp、faceswap,、deepfacelab、deepnude等一系列AI换脸、AI脱衣程序。尽管这些网站声明只涉及AI技术的研究，不会滥用传播涉及色情、政治等违法音视频文件，但AI换脸背后所涉及到隐私、版权、伦理的恶性事件正在大量发生。

例如在搜索deepfakes时，网站会自动推荐引人遐想的超链接，首先受到伤害的便是女明星群体。更严重的是，AI换脸已经形成一条黑产链条，记者发现，在某二手平台，有卖家提供明星换脸色情视频，甚至可以根据买家要求进行定制。

“ZAO”官方并没有表示其AI换脸技术开源自deepfakes，但二者却有不小的相似性。而且，“ZAO”作为手机应用程序出现，用户不需要会写程序，不需要用电脑下载软件即可实现换脸，AI换脸的操作门槛大大降低，也意味着违法视频的制作难度也在降低。

记者 蔡淑敏

—— / 好文推荐 / ——

网址：被工信部要求自查整改！一夜爆红的AI换脸App“ZAO”彻底降温 https://mxgxt.com/news/view/137983

相关内容

换脸软件刷爆全网 和明星换脸后用户担忧泄露隐私
AI换脸调查：淫秽视频可定制女星，700部百元打包卖
“有人模仿我的脸？”— AI换脸技术法律风险分析及建议
AI写真新纪元：Reactor换脸技术深度解析
重磅！至少8地税务局发声，要求明星、主播自查：年底前主动报告，否则将严肃处理
脸部畸形 揭假面明星
许晴被曝出事，被罚624万，注销3家公司，电影被除名被AI换脸
AI换脸明星网站的幕后魔法：技术深度与用户体验揭秘
一夜成名到人设崩塌，中国的网红到底经历了什么？
中年人渡劫：与其羡慕黄亦玫，不如整个AI外挂

随便看看