原文标题: Deepfakes and Journalism: Normative Considerations and Implications
一、研究对象与核心研究问题
本文的研究对象是深度伪造技术在新闻业中的应用。核心研究问题在于探究深度伪造技术与新闻业规范和伦理的兼容性——即如果以及如何将深度伪造技术用于新闻实践,才能不与新闻业的基本规范相冲突。作者指出,现有研究多聚焦于深度伪造对受众的负面影响,而忽略了其在新闻业中的潜在益处,更缺乏从记者视角出发、探讨该技术与新闻规范之间张力的定性研究。因此,本研究旨在填补这一空白,通过分析记者如何理解、协商和评估深度伪造技术,来建立一个评估其在新闻实践中伦理兼容性的框架。
二、研究背景
研究背景立足于深度伪造技术在全球信息生态中的迅速崛起及其对新闻业构成的严峻挑战和潜在机遇。深度伪造(deepfakes),尤其是以假乱真的音视频合成内容,在俄乌战争、美国大选等重大事件中被广泛用于传播虚假信息,严重威胁着记者公信力、媒体与受众间的信任,甚至动摇新闻业在民主社会中的根基作用。
尽管学术和公众话语主要强调深度伪造的负面风险(如欺诈、非自愿色情内容、虚假信息),但该技术在娱乐、教育乃至新闻创新(如合成新闻主播、个性化内容、无障碍手语翻译)中也展现出应用潜力。然而,这种创新能否在不违背新闻核心规范(如客观性、准确性、透明度)的前提下实现,成为了一个亟待解决的现实问题。德国、瑞士作为拥有相似民主法团主义新闻文化的西方民主国家,其记者群体对技术发展的敏感性以及维护新闻规范的共识,为探究这一张力提供了理想的研究情境。
三、理论背景
本文的理论框架建立在新闻业作为规范性社会制度这一基础之上,并整合了三个层面的文献:
- 深度伪造与合成媒体的概念辨析:研究梳理了“深度伪造”一词从Reddit上非自愿色情内容社区的负面起源,到如今被广泛用于指代恶意欺骗性合成媒体的过程。同时,作者引入了内涵更广、更具中性色彩的“合成媒体”概念,指出定义上的模糊性(含混地将所有合成媒体都视为恶意伪造)阻碍了对技术潜能的客观讨论,为后续分析记者认知的差异奠定了概念基础。
- 人工智能(AI)在新闻业中的应用与挑战:研究将深度伪造置于更广泛的AI新闻业应用文献中,指出虽然AI有潜力提升新闻的个性化、效率和吸引力,但也带来了对算法偏见、新闻机构对大科技公司依赖性增强以及冲击新闻质量的担忧。本研究聚焦于AI的一个特殊应用——深度伪造,探讨其引发的独特规范性困境。
- 新闻规范与社会契约理论:这是本文的核心理论支柱。作者援引新闻规范理论,强调新闻业在民主社会中的角色(提供信息、促进讨论、行使监督)依赖于一系列核心规范,如公共服务的取向、客观性、独立性、即时性和伦理操守。特别是通过“社会契约”理论,即新闻业以坚守伦理、真实报道来换取公众赋予的自主权、权威和信任。深度伪造技术因其潜在的对真实性、客观性的颠覆,直接挑战了这份契约的根基。因此,新技术的采纳必须经过严格的规范性审视,以确保其不侵蚀新闻业的制度合法性和公众信任。研究还特别强调了“透明度”在应对新技术冲击时,对证明客观性和维系信任愈发关键的作用。
四、研究设计
本研究采用探索性质性研究设计。
- 研究方法:通过半结构化深度访谈收集数据,并采用定性内容分析方法对访谈资料进行主题编码和比较分析。
- 研究样本:采用有目的的抽样策略。在德国,通过分析主要公共和私营媒体报道,识别出报道深伪技术的记者作为潜在访谈对象;在瑞士,则直接联系了六大媒体集团旗下的九大新闻媒体,请他们推荐能够讨论该技术机遇与挑战的代表。最终样本为26名来自德国和瑞士主流媒体机构的记者(含部分前记者/自由职业者),背景涵盖技术、事实核查、编辑管理、产品开发等多个领域。
- 数据来源:全部数据来自上述26次深度访谈。访谈于2022年9月至2023年5月间进行,每次时长约60-70分钟,全程录音并誊写。
- 分析工具与过程:利用MAXQDA软件进行编码。分析过程是迭代的,由两名编码员协作完成,在初步编码的基础上,不断与既有文献和理论进行比对、讨论,直至主题饱和。
五、主要发现
研究揭示了记者在评估深度伪造新闻伦理兼容性时,围绕四个核心主题展开的复杂协商,并归纳出三个递进的审视“透镜”:
对“深度伪造”的理解定义决定了评估起点:记者在使用“深度伪造”和“合成媒体”两个术语时存在摇摆。当他们关注技术的益处时,更倾向于使用中性化的“合成媒体”;而“深度伪造”一词因其固有的负面和欺骗性联想,使大多数记者难以设想其在新闻业中的合法应用。这表明,术语本身的框架效应极大地影响了规范性讨论的开放程度。
操纵的程度和对象是关键判断依据:记者们区分了操纵的不同层次,从简单的“换脸”到合成完整的虚构人物,以及操纵对象是人物、背景还是内容。操纵程度越深、越趋近于生成完全虚假的事件或人物,越被认为与新闻的核心原则相悖。即使是出于资料缺失或增强报道沉浸感的善意目的,创造或修改事件内容本身也普遍被视为越界。这引出了对“深伪”使用进行类型划分的必要性。
与“现实”的关系是核心伦理纠结点:记者普遍认为,深度伪造创造了一种“合成现实”或“虚构”,与新闻业追求“真实再现”的根本使命存在张力。争议点在于,它是基于真实素材的“增强”还是无中生有的“虚构”。尽管在娱乐、讽刺或历史还原等场景下存在应用空间,但记者强烈的共识是,新闻内容若无法与虚构内容做出清晰区分,将引发公众困惑、损害媒体信任,并模糊事实与虚构的界限。
必须满足明确的规范性前提条件:记者们一致强调了应用深伪技术必须满足的一系列先决条件,包括:真实性(最终产品必须真实可信)、信任(不能损害记者与受众间的人际信任)、透明度(必须明确标记合成内容)、准确性(不能为了增强吸引力而歪曲事实)、相关性(应用必须服务于公共利益)、责任感与善意(使用目的必须是揭露而非制造虚假)、人类控制(技术必须作为辅助工具,最终由人负责)。任何应用若未能满足这些前提,都应被拒绝。
基于以上发现,本文构建了一个决策模型,提出评估深伪与新闻兼容性的三个透镜:
- 第一透镜:三种使用类型——(1)深伪呈现方式(如虚拟主播、自动翻译),兼容性最高;(2)深伪内容本身(如补充缺失画面、数据可视化),兼容性显著下降,需严格审查;(3)深伪事件/主体本身(如虚构会谈、让历史人物评价当下),被认为与新闻业根本上不兼容。
- 第二透镜:边界条件——即澄清“什么是深伪”、“操纵了什么以及到何种程度”以及“与现实的关系”。
- 第三透镜:新闻规范——对照真实性、信任、透明、责任等核心规范进行最终评估。
六、研究结论与讨论
本文得出结论:深度伪造技术与新闻伦理的兼容性并非一概而论,而是高度依赖于其具体应用方式。通过区分对“呈现方式”、“内容”和“事件/主体”这三类不同对象的深伪应用,可以清晰地划定一条兼容性光谱:从相对可接受的呈现工具,到需要极度谨慎的内容补充,最后到完全不可接受的事件伪造。
学术贡献:
- 概念性贡献:本文最重要的贡献是提出了一个三透镜决策模型(图1),为新闻从业者和研究者提供了一个结构化、可操作的分析框架,以评估深度伪造技术在新闻实践中的伦理边界。它将抽象的道德争论具体化为可讨论的评估步骤。
- 实证贡献:研究首次系统地呈现了来自新闻生产端的专业声音,揭示了记者群体内部围绕技术、规范和现实的复杂协商过程,弥补了以往研究过于侧重受众视角或技术风险的不足。
- 理论贡献:研究将深度伪造的讨论与新闻规范理论(特别是社会契约论)紧密结合,明确指出维护“信任”是新闻业在面对颠覆性技术时的底线资产。同时,将术语之争(深度伪造 vs. 合成媒体)提升到了影响规范性判断的高度。
- 实践启示:论文强调,无论技术如何演变,新闻业必须坚守其基本规范和伦理标准,并建议使用“合成媒体”这一更中性的术语来促进关于技术潜能的建设性讨论。
研究的局限性在于其探索性质和对德国、瑞士两个特定新闻文化语境的依赖,未来研究可拓展至其他国家、更多类型的媒体机构,并结合量化方法进行验证。