深度伪造技术对新闻业的影响及其治理

发布时间：2024-12-16 06:22

作者：张多（浙江大学传媒与国际文化学院博士研究生）

来源：《青年记者》2023年第23期

导读

基于对深度伪造技术在现代社会中的成因以及对新闻业真实性影响的全面考察，本研究从人本主义的角度，提出了中国语境下深度伪造的治理路径。

人工智能技术的发展增强了人们创建、修改、生成、创造数字内容的能力，为深度伪造技术的发展提供了可能。深度伪造技术是一种超现实主义的图像或视频制作技术，可以用于伪造从未发生或从未存在的人或事。尽管后真相时代的假新闻案例屡见不鲜，但深度伪造（Deepfake）不同于传统假新闻形式，它是利用更为复杂的机器学习（ML）和人工智能技术生成的具有高度欺骗性的视觉和听觉内容，因此具有更高的迷惑性和欺骗性。此外，假新闻主要关注信息内容本身的真伪，而深度伪造则可以捏造个人的言语及行为，更具迷惑性，加剧了后真相时代的假新闻危机。

深度伪造技术的起源与利用开源机器学习技术实现视频中的换脸有关。由于这一技术对于信息真实性的颠覆，可能会引发一系列不良的社会后果。因此，深度伪造为真实信息的识别带来挑战，由此带来个人声誉的损害、政治舆论操纵的风险，甚至威胁到国家安全与社会稳定。本文在对深度伪造相关文献进行梳理的基础上，考察深度伪造出现的原因、传播机制，以及对新闻领域可能带来的影响，在此基础上，提出中国语境下引导深度伪造技术向善的可能路径。

深度伪造的成因

（一）深度伪造的生成机制

深度伪造是由深度学习和伪造两个词组合而成，是一种数字化的超真实图像或视频。具体而言，包括四种主要形式：（1）面部交换/替换；（2）面部再现；（3）面部生成；（4）语言合成。深度伪造依赖于深度神经网络，它负责训练目标对象，用优化的编码和解码技术替换原始对象，从而提高深度伪造的效果。具体而言，编码负责将图像转换为较低维度的潜在空间，解码则涉及重建图像。在创建深度伪造内容时，潜在空间用于建模目标对象的关键特征，例如面部特征和身体姿势，通过分析大量数据样本来学习模仿一个人的面部表情、行为举止、语音语调，经过不断训练脸部的交换，以达到逼真的效果。

从技术上说，深度伪造是生成对抗网络 (GANs) 的产物，即两个人工神经网络共同工作，这两个网络为“生成器”和“鉴别器”，它们在相同的图像、视频或声音数据集上进行训练。第一个网络尝试创建新的样本，这些样本需要足够逼真，能够欺骗第二个网络，第二个网络的任务是识别它看到的内容是否真实，基于这样的机制，它们相互驱动，不断提升生成内容的仿真性。随着这一技术的发展，出现了大量用于制作高质量深度伪造图像或视频的开源软件，许多缺乏技术技能和专业知识的用户也可以用软件对图片或视频进行编辑（例如交换面孔、改变表情、合成声音等）。

（二）驱动深度伪造技术出现的因素

随着平台社会的兴起与注意力经济的发展，传媒业对于商业利益的追逐带来了以流量经济为主的内容生产逻辑，商业考虑往往优先于事实核验和理性辩论[1]。可以说，平台社会的发展使深度伪造内容有了滋生的土壤，凭借其娱乐化、戏谑化的方式，捕获了大量的用户。深度伪造最早出现在美国社交网站Reddit用户发布的色情视频中，这类换脸色情视频迅速在社交媒体平台上走红后，出现了“deepfakes”形式的换脸视频[2]，在此之后的换脸视频不再仅是色情内容，还拓展到娱乐领域。社交媒体平台的内容创作爱好者可以制作娱乐化内容来获取流量，达成盈利目的。此外，由于这项技术具有较高的创造性，可以用于电影的配音、再现已故演员的面貌、重现历史人物，以及虚拟试穿等方面。

（三）深度伪造内容主要传播平台

深度伪造内容的主要传播渠道是社交媒体平台，例如Facebook、Twitter、YouTube、微信、微博、抖音、快手等。这些平台的用户基数庞大、信息传播速度快，为深度伪造内容的传播提供了土壤。按照Jose van Dijck等人的分析，平台设施在社会中的扩张依赖于数据化的基本过程，即尽可能多地、系统性地获取用户信息。对深度伪造而言，这也是深度学习、机器训练的基础，社交媒体平台可以利用后台大数据，获得庞大的用户视频资源[3]，以此为深度伪造的机器学习提供机会。举例来说，在Reddit留言板上出现了“deepfakes”小组，专门讨论人脸变形的技术和创建虚假素材[4]。

（四）深度伪造内容涉及的多元主体

深度伪造内容涉及的主体至少有以下5种：（1）政治人物；（2）新闻媒体；（3）不法分子或诈骗犯；（4）影视或广告公司；（5）普通网民[5]。一方面，深度伪造应用程序自问世以来，世界各地的政治人物一直受到丑闻性质的深度伪造视频攻击[6]。例如，2018年关于加蓬总统阿里·邦戈的深度伪造视频，导致了一次政变。同时，深度伪造技术对新闻业的真实性产生了冲击，有研究发现，在深度伪造内容的网络互动的桥梁角色中，有一半的参与者是记者和媒体，他们倾向于把深度伪造视为“一种破坏社会信息交流秩序的技术”[7]。值得注意的是，创建深度伪造的主体还包括犯罪分子或诈骗犯，他们的目的在于传播虚假信息、进行敲诈勒索，甚至通过创建虚假身份来对儿童开展线上的诈骗行为[8]。但另一方面，深度伪造技术凭借其技术特点，已经开始大量运用在影视制作（例如重现已故名人）和广告投放（例如个性化产品定位）中[9]。此外，作为业余爱好者的普通网民也是深度伪造内容的主要创作者之一，他们通过创意性的内容生产与表达，展现了深度伪造技术向善的独特潜力。

深度伪造内容的传播过程

（一）深度伪造内容的传播特点

作为更具迷惑性的虚假信息形式，深度伪造内容有着更为强大的针对性、冲击力和传播力。首先，深度伪造内容可以进行针对性传播，具有高度个性化的特点，从而使得虚假信息的传播更具针对性和个性化，这种高度个性化的传播可以更容易地吸引受众的注意力和共鸣，从而使虚假信息更容易传播开来[10]。其次，深度伪造内容有较强的视听效果冲击力，与Photoshop处理的照片相比，在处理的信息质量上存在明显的差异，深度伪造欺骗的不仅是眼睛，还有耳朵。深度伪造技术创作的虚假音视频营造出的虚假场景、事件、人物可以给人以非常真实的视听体验，从而增加了虚假信息的说服力和影响力[11]。第三，深度伪造技术制作的虚假音视频可以通过多种渠道进行传播，例如社交媒体、论坛、新闻网站等，凭借社交媒体平台病毒式的传播特性，深度伪造信息的传播范围迅速扩散，加大了网络治理的难度。更为重要的是，深度伪造的内容不仅由人来生产创作，智能技术也成为生产与传播中的重要组成，需要我们重新思考视觉真相的本质特征，也需要对责任主体进行重新界定。

（二）深度伪造内容传播的影响因素

影响深度伪造内容传播的影响因素分为技术因素、用户因素、识别与检测因素、治理因素。技术因素包括深度伪造内容的真实度、可信度与便捷性。深度伪造技术能够提升虚假信息的真实度和可信度，让虚假信息更容易广泛传播。便捷性指的是深度伪造内容的制作越来越容易，没有经过专业训练的任何用户都可以使用相应的软件制作逼真的深度伪造信息[12]。

关于用户因素，首先是“信息瀑布”效应，或称为“羊群效应”，由于深度伪造内容具有高度的迷惑性，当人们发现他人都相信或转发这些内容时，自己也会倾向于转发或分享，从而导致深度伪造信息的广泛传播。其次，从心理学角度看，个体更容易对负面信息有更高的分享意愿，由于深度伪造信息一般是对政治领袖或明星名人负面的调侃，因此更容易获得网民的分享。再次是“过滤气泡”效应，人们会倾向于接触符合自己固有观念的信息[13]，深度伪造内容往往可以基于个性化的信息需求满足不同类型受众的信息需要，因此会倾向于相信这些内容。此外，包含图片或视频的信息也会增加个体转发的可能性[14]。

为了抑制深度伪造信息的传播，相关的检测技术也得到迅猛发展，例如研究人员设计了自动化识别系统，检测深度伪造图片或视频的光线、阴影、图案闪烁等指标，甚至与政治候选人在现实生活中的面部表情、行为特征相比较，识别信息的真伪。Facebook倡导创建视频语料库，帮助研究人员使用精准的检测机制打击深度伪造，Twitter通过一套复杂的规则识别有伪造嫌疑的推文，并告知相应的发布者删除其伪造内容[15]。

治理因素包括相关政策、法律法规。基于深度伪造内容的传播范围广、传播速度快、社会危害大的问题，一些国家、政府或组织意识到遏制这一技术的重要性。美国高级研究计划局（DARRP）启动了一项关于评估数字技术能力的研究计划，加利福尼亚州、弗吉尼亚州、得克萨斯州都通过了关于对政治选举、数字化色情内容相关的管理法案[16]。

深度伪造对新闻真实性的影响

作为一项新技术，深度伪造可以运用于个性化的新闻生产中，增加新闻的可视化、真实性与互动性，提高新闻生产的效率。但滥用也会对新闻行业产生不可估量的负面效应。下文将探讨深度伪造对新闻真实性、舆论环境、社会信任的影响，以此管窥深度伪造技术可能对新闻领域带来的冲击与挑战。

（一）新闻真实性的衰落与深度后真相

深度伪造意味着视觉真相信仰的消逝[17]。由于新闻是公众获取信息与了解世界的窗口，因而真实性是新闻生产的第一准则，但深度伪造技术极大地挑战了社交媒体场域中新闻的真实性，图片和视频已不能成为表征事实的依据，带来了“眼见不能为实”的深度后真相时代。深度伪造技术对新闻真实性的冲击体现在以下三个方面：技术蒙蔽、真假掺杂、权力下放。首先，技术蒙蔽是指利用技术虚构出从未发生的事件，例如对虚拟图像、视频、音频等内容进行合成、替换、再造，生成虚假内容（包括图片、视频和音频），以及利用技术修改虚拟人物的面貌、声音、表情、动作、形象、穿着等个人特征。其次，真假掺杂是指以“蒙太奇”的手法，将生成事实融入客观事实，达成伪造“事实”的目的。例如利用各大平台发布的新闻来源，将其作为事实虚构的数据库，凭借深度伪造技术将新闻来源中的信息进行修改、删减、拼接。再次，权力下放意为：由于数字时代的新闻生产不仅源于专业媒体与新闻记者，还来源于广大的互联网用户，基于一键式的操作让深度伪造“平民化”[18]，加上网络用户的信息素养良莠不齐，可能出现有意或无意识的虚假信息生产，在此情形下，大量未经事实核查的信息充斥网络，伴随着市场化和经济因素的驱动，使用深度伪造技术的新闻生产可能会激发违背伦理道德的逐利性行为，增加了新闻的事实核查难度，进一步导致新闻真实性的降低。

（二）舆论操纵与信息秩序的扰乱

在社交媒体平台，深度伪造信息可能造成舆论意见的不断反转，利用刺激性信息来牵引公众的注意力，形成舆论误导，激化社会不同意见群体的矛盾[19]，尤其是运用于政治事件中，将可能造成信息秩序的混乱和社会动荡。具体而言，深度伪造对舆论场与信息秩序的扰乱体现在无中生有、舆论操纵、群体极化三方面。首先，深度伪造技术可以基于社会热点话题“无中生有”生成虚假信息，由此围绕意识形态等社会议题刺激公众眼球、扰乱公众视野、引起负面舆情的扩散。其次，深度伪造会带来舆论操纵的困境。在西方，深度伪造可以干预政党竞选、扩大政治分裂。例如它可以制造政治人物的虚假图片、视频或声音，以篡改和捏造政治领袖的公共形象，进行意识形态操纵。此外，深度伪造也可以结合政治微目标定位技术（PMT），在短时间内制作出符合目标受众偏好的政治人物的多样化视频，实现对政治选举的操弄。因此，在美国情报界发布的《2019年全球威胁评估》中，将深度伪造视作威胁美国国家安全的一项技术。再次，深度伪造会加剧群体极化的风险。当技术掌控者使用深度伪造技术制造虚假信息，将舆论焦点引向涉及宗教信仰、种族歧视、贸易纠纷等争议性话题时，可能会煽动不明真相的公众情绪化和极端化的表达，加上社交机器人的舆论扩散，会加剧舆论场中言论的非理性，造成舆论场的动荡，甚至威胁社会稳定。

（三）技术异化与社会信任风险加剧

当深度伪造技术的出现与人类社会发展背道而驰时，会加剧社会信任的风险。由于深度伪造内容制作简单，经过人工智能处理后的信息内容更具吸引力，也更加容易获取用户对这类信息的偏好，当社会公众充斥在各种各样根据其偏好精准推送的短视频海洋中时，会使其丧失对某些并不清晰事实的客观认知。长此以往，当这种信任崩塌时，会加剧整个社会的信任赤字危机[20]。根据风险的社会放大理论，媒体对风险进行社会加工的过程会对风险的强度和广度产生影响，换言之，会放大或弱化社会公众对风险的认知，形成风险涟漪[21]。承载信息的社交媒体平台成为风险传播的“放大站”，当深度伪造内容在媒体上广泛传播时，用户一旦察觉，就会加剧他们对于虚假信息的风险感知，从而降低对媒体的信任。媒体能够提高政治信任和公民参与度，进而作用于社会信任[22]，尤其是在当前的数字化时代，媒体已经成为人们认识世界、参与社会互动的主要途径，因此当深度伪造技术降低公众的媒介信任时，社会信任也会随之崩塌。

中国语境下深度伪造技术向善路径

（一）加强对“自媒体”深度伪造内容创作和发布的管理

在我国数字基础设施不断发展的背景下，众多社交媒体平台如微博、抖音、快手、小红书等应运而生，形成了种类繁多、规模庞大的内容传播生态与格局。“自媒体”平台以自主性、易用性、便捷性的方式开启了一场新的传播革命，为“创作者经济”带来了巨大的可能性，不少“自媒体”账号会利用这项技术进行创意性的内容生产。但获取流量始终是社交媒体平台盈利的核心逻辑，这使得社交媒体平台上的部分用户为了博取关注度和流量，利用深度伪造技术创造虚假信息，恶意散播谣言等内容，还涉及一些侵犯他人肖像权和名誉权的行为。例如，2022年，抖音以“滥用平台道具”“仿冒虚假人设”为由封禁了一个名为“俄罗斯娜娜”的账号，该账号疑似使用AI特效，仿冒外国人来博取关注[23]。由此，在“自媒体”行业“野蛮生长”，网络空间不断走向失序的背景下，政府开始出台相对应的管制措施。2023年7月，中央网信办发布的《关于加强“自媒体”管理的通知》中指出，“自媒体”发布信息不得无中生有，不得断章取义、歪曲事实，不得以拼凑剪辑、合成伪造等方式影响信息真实性[24]。这一管理规定为“自媒体”治理提供了行动指南，也大大维护了公共利益。哈耶克认为， “公共利益”关涉社会每个成员的利益，它在一定程度上往往是作为一个目的性价值出现[25]。正是在这个意义上，政府及相关部门可以作为公共利益的代表，对“自媒体”可能利用深度伪造技术危害公共利益的言行作出相应的管理，以实现维护社会秩序的稳定以及保障公共利益的目标。此外，“自媒体”内容创作者依附于平台而存在，这意味着它们受制于平台的使用规则和条款。从某种程度上讲，平台具有信息的把关职能，对于深度伪造内容的发布应当保持警惕，及时发现和删除可能具有社会危害性的深度伪造内容。更为重要的是，平台是否会严格把关“自媒体”内容的创作和发布取决于政府惩罚强度。因此，政府应当对平台施加相应的管制，监督其承担起社会责任，避免由于缺少内容监督而导致深度伪造泛滥的情况。

（二）增强人机协同下的事实核查机制

随着深度伪造技术的出现，平台对信息的核查、监测和把关的难度提升，技术的发展是应对技术风险的一个重要方向。就深度伪造技术而言，其核心在于深度学习，目前关于这项技术的追踪与核查技术也在发展过程中，其原理与深度伪造技术有着相似之处，通过机器的深度学习观察真实图像与伪造图像之间的差异，从而开发出检测方法。谷歌就公开发布了关于深度伪造视频识别的数据集，以便各类机构和研究人员用于深度伪造检测工具的训练[26]。在信息把关层面，基于深度学习监测技术的赋能，可以通过人机协同的技术系统，借助算法过滤的人工核查的方式提高事实核查的准确性和效率，利用“机器+人工”的方式升级舆论监测系统，实时监测平台中可能存在的恶意发布和传播的深度伪造内容，并运用大数据追踪虚假信息的源头和传播路径，对责任方进行有效问责。此外，在技术赋能之下，新闻真实性核查可突破传统的人工核查机制，将区块链技术纳入其中，利用区块链技术的不可篡改、去中心化的特性提升事实核查机制的准确性，弥补人工核查机制的不足。同时，区块链技术可对信息进行反向验证，既保证了追责的可能性，也实现了对新闻真实性的检验[27]。因此，从长远来看，我国需要建立“人机协同”的事实核查系统，尽早将其运用于人工智能时代的信息生产、信息核查与信息管制体系中。

（三）促进网民的事实核查参与

在去中心化的传播场域中，公众参与事实核查不可忽视。有研究者提出“参与式事实核查”模式，这是一种面向公众、多重行动者躬身其间的事实核查行动取向[28]。这是一种利用“群体智慧”（wisdom of crowds）的参与式核查实践。有研究表明，相较于传统的核查机制而言，参与式事实核查能够大大提高事实核查的效率，有效利用群体智慧扩大社交媒体事实核查规模[29]。具体来讲，网民参与核查有两大优势：一方面，当前理解新闻真实性需要借助“新闻真实网络”的视角，将新闻真实实践过程看作是开放的、动态的网络化过程[30]，公民参与核查可以扩大核查范围，提高事实核查的准确度；另一方面，可以多方面、多层次、多视角地对社交媒体场域中的信息内容展开事实核查，这也有助于公民媒介素养与信息批判意识的提高。例如，2017年日本成立了首家事实核查组织FIJ（Fact Check Initiative Japan），这一组织结合了计算机自然语言处理系统和普通网民两种核查机制，使得普通网民可以参与到质疑与评价新闻的核查过程，当发现有误的信息时，可以立刻更正和修改，有效遏制了虚假信息的传播[31]。虽然参与式事实核查面临着内容核查的准确性、真实性、严谨性的质疑，但这种方式能够大幅度提高事实核查的效率，缩短核查的时间，让公众迅速关注到深度伪造的信息。因此，将公众参与核查纳入事实核查机制有助于降低深度伪造信息的传播度，从而降低其社会危害性。

（四）开展公众媒介素养教育

媒介素养是指具有使用和解读媒介信息所需要的知识、技巧和能力，其中“判断力、道德力和审美力日渐成为人与媒介和社会交往中的核心能力”[32]。平台只是推送信息的工具载体，至于信息是否为大众所选择、接受或转发，这取决于用户本身。因此在虚假信息泛滥的媒介环境中，提升公众的媒介素养至关重要。尤其是人工智能技术让虚假图片、视频变得更加难以辨别，对公众的媒介素养提出了更高的要求。今天，一方面，需要提升公众对于信息的批判性思维，面对真假难辨、眼见不一定为实的网络环境，需要对信息的转发、分享和传播保持谨慎的态度，避免被情绪化的信息煽动，沦为虚假信息的扩散器；另一方面，要提升公众对于人工智能的基本常识，初步了解智能技术的逻辑，避免陷入对技术不假思索的崇拜，时刻警惕陷入智能技术所带来的过度虚拟化、娱乐化和戏谑化的信息漩涡中，提高对信息获取和接纳的独立自主意识。为此，引导公众了解、认知与掌握人工智能的技术逻辑至关重要，使之能够主动选择多元化、公共化、优质化的信息内容，警惕深度伪造信息带来的负面效应[33]。

结语

深度伪造技术进入大众视野以来，对于社会的影响可谓争议不断。根本而言，我们身处人工智能时代，其孕育的深度伪造技术带来了数字化、虚拟化生存的新技术逻辑，既能给我们带来全新的超真实体验，也会颠覆新闻业已有的生产模式，重塑公众对于信息的认知与行为模式。本文考察了深度伪造的成因、传播过程以及对社会的影响。通过对深度伪造技术的分析发现，深度伪造技术的发展主要受到经济与娱乐的影响。同时，由于深度伪造具有较强的逼真性和迷惑性，在传播过程中呈现明显的网络效应和传染性，进一步加剧了后真相时代虚假信息的泛滥。此外，本研究认为，深度伪造对新闻领域的影响体现在三方面：新闻真实性衰落、扰乱信息秩序、降低社会信任。在中国语境下对其进行有效治理，可以从四方面入手，包括加强对“自媒体”深度伪造内容创作和发布的管理、增强人机协同下的事实核查机制、促进网民的事实核查参与，以及开展公众媒介素养教育。本文认为，深度伪造作为一种新兴的技术和文化现象，我们不应该持有技术决定论的观点，更应当从技术的社会塑造（Social shaping of technology, SST）视角分析技术是在何种社会背景下孕育的，受到哪些因素的影响。此外，还需要从个体心理学的角度进一步分析为什么人们会相信、转发、分享深度伪造的内容，受到哪些因素影响。在制定相关政策和法规时，应该考虑其技术特点和社会影响，并采取有力的措施维护公众利益和社会稳定。

【本文为中国传媒大学“铸牢中华民族共同体意识教育常态化机制研究”（编号：CUC23ZL002）阶段性成果，受中国传媒大学中央高校基本科研业务费专项资金资助】

参考文献：

[1] 姬德强.深度造假:人工智能时代的视觉政治[J].新闻大学,2020(07):1-16+121.

[2] Fletcher J. Deepfakes, artificial intelligence, and some kind of dystopia: The new faces of online post-fact performance[J]. Theatre Journal, 2018, 70(4): 455-471.

[3] Van Dijck J, Poell T, De Waal M. The platform society: Public values in a connective world[M]. Oxford University Press, 2018.

[4] 陈昌凤，徐芳依.智能时代的“深度伪造”信息及其治理方式[J].新闻与写作,2020(04):66-71.

[5] Westerlund M. The emergence of deepfake technology: A review[J]. Technology innovation management review, 2019, 9(11).

[6] Barari S, Lucas C, Munger K. Political deepfake videos misinform the public, but no more than other fake media[J]. OSF Preprints, 2021, 13.

[7] Dasilva J P, Ayerdi K M, Galdospin T M. Deepfakes on Twitter: which actors control their spread?[J]. Media and Communication, 2021, 9(1): 301.

[8] Ring T. Europol: the AI hacker threat to biometrics[J]. Biometric Technology Today, 2021, 2021(2): 9-11.

[9] Campbell C, Plangger K, Sands S, et al. Preparing for an era of deepfakes and AI-generated ads: A framework for understanding responses to manipulated advertising[J]. Journal of Advertising, 2022, 51(1): 22-38.

[10] Kumar S, Gu Y, Hoang J, et al. Interaction-based trajectory prediction over a hybrid traffic graph[C]//2021 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2021: 5530-5535.

[11] Rossler A, Cozzolino D, Verdoliva L, et al. Faceforensics++: Learning to detect manipulated facial images[C]//Proceedings of the IEEE/CVF international conference on computer vision. 2019: 1-11.

[12] Kietzmann J, Lee L W, McCarthy I P, et al. Deepfakes: Trick or treat?[J]. Business Horizons, 2020, 63(2): 135-146.

[13] Sample C, Jensen M J, Scott K, et al. Interdisciplinary lessons learned while researching fake news[J]. Frontiers in Psychology, 2020, 11: 2947.

[14] Fenn E, Ramsay N, Kantner J, et al. Nonprobative photos increase truth, like, and share judgments in a simulated social media environment[J]. Journal of Applied Research in Memory and Cognition, 2019, 8(2): 131-138.

[15] Vizoso ?, Vaz-?lvarez M, López-García X. Fighting deepfakes: Media and internet giants’ converging and diverging strategies against Hi-Tech misinformation[J]. Media and Communication, 2021, 9(1): 291-300.

[16] Kerner C, Risse M. Beyond porn and discreditation: Epistemic promises and perils of deepfake technology in digital lifeworlds[J]. Moral Philosophy and Politics, 2021, 8(1): 81-108.

[17] 谢进川，唐恩思.深度伪造的社会伤害与治理争议[J].新闻与写作,2023(04):96-105.

[18] 年度网络内容治理研究课题组,方师师,万旋傲等.要素治理与关系协调：2021年网络内容治理报告[J].新闻记者,2022(01):19-36+76.

[19] 赵国宁.智能时代“深度合成”的技术逻辑与传播生态变革[J].新闻界,2021(06):65-76.

[20] Vosoughi S, Roy D, Aral S. The spread of true and false news online[J]. science, 2018, 359(6380): 1146-1151.

[21] 尼克·皮金，罗杰·E·卡斯帕森，保罗·斯洛维奇.风险的社会放大[M].谭宏凯，译.北京:中国劳动社会保障出版社，2010:22.

[22] 强月新，孔钰钦.社会信任视角下新型主流媒体的价值建构[J].中国编辑,2021(12):4-10.

[23] 蔡雨婷，罗昕.职业化与规范化:创作者经济中的“自媒体”治理[J].青年记者,2023(19):89-92

[25] 哈耶克.法律、立法与自由[M].邓正来,等,译.北京:中国大百科全书出版社,2000:9.

[26] 曹开研.引导深度合成技术向上向善的积极探索[J].青年记者,2022(05):91-92.

[27] 林爱珺，翁子璇.智能技术对网络舆论生态的影响与综合治理[J].中国编辑,2023(Z1):32-36.

[28] 《国际新闻界》新闻学年度课题组.2022年中国的新闻学研究[J].国际新闻界,2023(01):6-24.

[29] 黄文森. 创新行动：数字新闻样态的兴起、扩散与主流化[J]. 新闻与写作, 2023(07): 35-44.