担心AI造假怎么办？首个AI实时鉴伪工具来了

专题：聚焦AI

随着AGI（通用人工智能）等话题日益火热，AI安全的重要性也在快速提升。这背后，是全球范围内的企业、机构与个人对AI造成的技术恶用、滥用问题的重视与警惕。

6月21日，瑞莱智慧（下称“RealAI”）正式发布了全球首个可实时检测AI合成内容的工具RealBelieve。

这是一款针对个人用户的产品，可以提供主动实时检测防护。例如它可以鉴别视频通话中人脸的真伪，或是在用户浏览网页时提示内容是否由AI合成。目前，该产品已启动内测招募。

最近一段时间，AI技术在填补众多行业效率需求空缺的同时，也滋生了大量安全隐患，比如利用AI技术换脸、合成声音等的诈骗行为频发。

2024年年初，香港警方向社会公布了一起诈骗案件。在一场使用Deepfake技术“AI换脸”和AI音频合成的“高管会议”中，一家英国跨国企业香港分公司的职员受到视频内容的欺骗，向犯罪嫌疑人指定的本地账户陆续汇出2亿港币，此事在五日后才被揭穿并曝光。

面对这种新型高科技技术犯罪，大型机构尚且缺乏有效工具及时辨别，遑论普通个体。

RealAI此前曾开展过AI合成检测技术研究和产品研发，推出了生成式人工智能内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品。

此次推出的RealBelieve主要提升了两方面能力，一是多模态检测能力，用户可以上传文本、图片、视频和音频等多种内容进行监测；二是把滞后的被动检测转变为主动检测，比如可以通过浏览器插件的形式提示用户所浏览网页中疑似AI合成的内容，并在视频通话过程中鉴别对方人脸是否存在AI合成风险。

RealAI联合创始人、算法科学家萧子豪对界面新闻表示，该产品背后的检测模型是基于贝叶斯深度学习技术开发，团队打造了一系列多模态AIGC检测技术体系，根据各类AI合成线索进行不确定性推理决策。

在多模态AIGC（人工智能生成内容）技术进化的过程中，生成技术与检测技术其实在同步发展。在GPT、LIama、DALL-E-3等模型和算法的不断升级下，AIGC技术得到了促进，与此同时，也有Detect GPT、De-Fake、Detect-Vocoder等相应的AI检测技术陆续出现。这是AI安全领域一种必要的对抗。

不过，RealAI CEO田天指出，在整个AI安全领域，对于AIGC内容的监控检测只是作为基础功能的一部分。除此之外，在AI的数据准备、模型训练以及模型应用等各个环节，都有其各自的一系列安全问题。

总体来说，AI安全问题可以分为三个层次。第一层是AI技术本身要安全可信；第二层是AI技术的正义性，防止被滥用；第三层是面向未来超级智能的AI安全。

OpenAI前首席科学家Ilya Sutskever曾表示，当前的AI安全问题已经到了非常迫切的程度，如果不采取相应措施，很可能就错过时机，而在这之后基本不存在亡羊补牢的可能性。

事实上，Ilya Sutskever在OpenAI发起的“超级对齐”项目正是针对这一担忧。从OpenAI离职后，他创立了一家名为“安全超级智能”（SSI-Safe Superintelligence）的人工智能公司，计划开发出比人类更聪明但不危险的人工智能技术。

按照Ilya Sutskever之前接受采访的说法，未来超级智能看待人类的状态，很有可能就是现在人类看待动物的状态。而在人类几百万年与自然界交互的历程中，从未出现过一个智能水平更低的物种能够控制、约束智能水平更高物种的情形。

因此，商业公司在蒙眼狂奔的过程中，如果缺乏对AI安全治理的足够重视和投入，很可能在没有边界的情况下造成一系列潜在危害。

“随着超级智能越来越接近，在AI安全领域，我们要确保将来的超级智能体能够跟人类和谐相处。”田天说，“简单来说就是要让它更像人类，具备人类的价值观。”

相较于全球范围内的多个国家与企业对AI安全的重视与投入程度，田天表示，目前国内在这片产业上的整体投入仍然相对落后，但阿里、腾讯、百度等大厂以及智谱AI等创业公司，都在加大投入力度。

海量资讯、精准解读，尽在新浪财经APP

网址：担心AI造假怎么办？首个AI实时鉴伪工具来了 https://mxgxt.com/news/view/11863

相关内容

远川科技评论：日本AI，失去的不止三十年
酷狗AIK引领AI唱歌潮流，一键实现与邓紫棋合唱，瞬间“穿越”演出现场
“中国色”音乐会在沪首演 国乐与AI跨界“碰撞”
假如20年前的刘亦菲来演黄亦玫 ai换脸：绕梁一日
吉狄马加：AI做不到“人诗互证”｜大道⑨ 下
Meta推出新版自研AI芯片：性能较上代提高三倍，降低对英伟达依赖
百余专家学者南京聚首，共同探讨心理学新发展
“云游故宫·凡尔赛宫”AI绘画大赛启动
AI助力追踪肠内智能药丸
曝光！他们用AI杀人，还有“附带杀戮配额”……