应对虚假信息：RTVE 的立场与技术的机遇

虚假信息一直存在。变化的是规模。生成式人工智能如今已能以几年前难以想象的成本，制作出逼真程度惊人的虚假图像、视频、音频和文本。
对于我们这些在公共媒体工作的人来说，这并非一个抽象的忧虑：它直击我们使命的核心，即保障公民获得真实、经过核实的优质信息的权利。当真实与伪造之间的界限变得模糊，受到威胁的就不仅是一家广播机构的声誉，而是民主讨论本身的健康。
在西班牙国家广播电视台（RTVE），我们选择以严谨的态度应对这一挑战。我们系统与创新总监部（Dirección de Sistemas e Innovación）下设的大数据与人工智能部完成了一项关于虚假新闻检测现状的研究，深入考察了用于生成图像、视频、音频和文本深度伪造的技术、现有的检测工具、内容溯源协议，以及支撑当前研究的数据集。其结论既发人深省又令人不安，我认为值得与国际公共媒体界分享。
延伸阅读：社交媒体内容审核——比利时法语社群广播电视局（RTBF）面临的日常挑战
第一个结论很明确：如今，对合成内容的自动检测仍是一个未解难题。生成与检测之间存在着持久的拉锯战，其中合成技术的演进速度快于认证方法。即使是最先进的检测器，在面对此前未见过的操纵手法时准确率也会显著下降，这说明它们学习的是训练数据特有的模式，而非真正普适的信号。
音频领域的挑战更大：现代语音克隆系统能产生极为逼真的韵律和音色；多通道深度伪造则把图像、声音与手势同步起来。此外，用于训练检测器的数据集也存在局限：人口与语言多样性不足、场景难以代表真实世界、过度依赖少数几个基准数据集。承认这些局限并非悲观，而是设计有效策略的必要条件。
对公共服务媒体而言，影响是直接的。RTVE 每年播出数千小时的新闻内容，而我们品牌本身就是被攻击的目标：主持人的面孔和声音可能被克隆，用来为编造的故事增添可信度；我们档案中的画面也可能被重新剪辑、移出语境以实施欺骗。与此同时，我们的编辑部必须以越来越快的速度核实来自社交网络和各方的素材。如果自动检测不能完全信赖，每家公共广播机构都面临双重职责：保护自身播出内容的完整性，并让记者具备揭穿他人捏造内容的手段。正因如此，在 RTVE，我们不把虚假信息视为纯粹的技术问题，而是视为关乎公共服务媒体可信度的战略问题。
如果我们不能只依赖检测虚假，就必须能够证明真实。我认为，这正是公共媒体面临的最大技术机遇之一：内容溯源与可追溯性标准。C2PA 这类开放协议能够嵌入签名凭证，认证视听文件的来源并记录其后的任何改动；数字水印则以观众无法察觉的方式强化这种可追溯性。
在 RTVE，我们正在研究把这些内容凭证纳入我们制作和播出的文件之中，涵盖播出前后。让任何公民都能核实一段视频确实来自 RTVE 且未被篡改，意味着将历史上支撑公共服务媒体的信任带入数字环境。真实性不再是一句承诺，而成为内容本身可验证的属性。
我们的研究得出的结论是：以现有技术状况而言，关于一份视听文件是否被篡改的最终判断必须由人来作出：一名受过各类检测平台训练、在视听制作方面具有广博专业知识的从业者，能够察觉暴露伪造的细微不一致之处——光照、色彩还原、时间连贯性。工具应当辅助这一决定，而不是代替它作出决定。技术必须为新闻专业标准服务，而不是相反。
这种混合路径已在具体项目中成形。RTVE 与多家西班牙科研机构共同参与的 IVERES 等倡议，把人工智能辅助核查的能力交到记者手中。使欺骗成为可能的同一项技术，由此成为致力于拆穿欺骗者的盟友。
这一承诺是我们路线图的一部分：验证现有解决方案，并与行业携手开发更多方案。系统与创新总监部与核实平台 VerificaRTVE 在核查的技术增强方面密切合作，依托 RTVE 的合作讲席网络（cátedras，即 RTVE 与西班牙高校之间的长期研究合作协议），并与行业各方一起，共建这一领域稳定的协作环境。
任何广播机构，无论规模多大，都无法独自应对这一挑战。欧洲已通过《人工智能法案》和《数字服务法》迈出重要步伐，开始为合成内容确立透明度义务。但监管必须辅之以操作性合作：欧洲事实核查标准网络（EFCSN）和国际事实核查网络（IFCN）等事实核查网络、伊比利亚美洲地区的 IBERIFIER 等项目，以及公共媒体联盟（Public Media Alliance）这样的国际联盟，都是分享工具、方法和经验教训的平台。
RTVE 希望深化参与这些网络，因为对抗虚假信息的斗争要么集体行动，要么一事无成。而在这一切之外，媒介素养教育仍然是最持久的疫苗。
在一个将被合成内容充斥的生态系统中，公共媒体的独特价值恰恰在于：成为可验证的真实信息来源。虚假信息是严重的威胁，但也是重申我们立身之本的机遇。如果我们能把编辑严谨、溯源技术、辅助核查与国际合作结合起来，公共媒体就能成为民主社会即将需要的信任之锚。
RTVE 正沿着这条道路前行，信念明确：面对虚假信息，最好的回应不仅是检测虚假，更是围绕真实构建公共信任的基础设施。
曼努埃尔·戈麦斯（Manuel Gómez）博士任 RTVE 系统与创新总监，领导该机构的数字化转型和人工智能驱动解决方案的落地。他拥有计算机科学博士学位，在媒体和企业环境中交付数字项目方面经验丰富。他的工作聚焦于流程优化、用户体验和新兴技术集成，将战略视野与扎实的技术专长相结合。
里卡多·阿森西·冈萨雷斯（Ricardo Asensi González）任职于 RTVE 系统与创新板块的人工智能与大数据单元。他拥有计算机工程专业学位和软件工程与计算机系统研究硕士学位，目前是西班牙国家远程教育大学（UNED）系统与控制工程专业的博士生，研究利用深度学习进行人脸识别与深度伪造检测。他的职业与研究活动聚焦于应用于媒体的人工智能与计算机视觉。他是电气与电子工程师协会荣誉学生分会 IEEE HKN-Nu Alpha UNED 分部以及西班牙自动控制委员会（CEA）的成员。
虚假信息一直存在。变化的是规模。生成式人工智能如今能够以几年前难以想象的成本和逼真程度，制作虚假的图像、视频、声音和文本。对于我们这些在公共媒体工作的人来说，这一现实并非抽象问题：它触及我们使命的核心，即保障公民获得真实、经过核实的优质信息的权利。当真实与伪造的界限变得模糊，受到威胁的不仅是一家媒体的声誉，而是民主对话的健康。
在 RTVE，我们希望以严谨的态度应对这一挑战。我们系统与创新总监部下设的大数据与人工智能部编制了一项关于虚假新闻检测现状的研究，深入分析了图像、视频、音频和文本深度伪造的生成技术、可用的检测工具、溯源协议以及支撑研究的数据集。其结论既发人深省又令人不安，我认为值得与国际公共媒体界分享。
第一个结论很明确：如今，对合成内容的自动检测仍是一个未解难题。生成与检测之间存在着持久的拉锯战，合成技术的演进快于认证方法。即使是最先进的检测器，在面对未见过的操纵手法时准确率也会显著下降，这说明它们学习的是训练数据的特有模式，而非真正普适的信号。
音频领域的挑战更大：现代语音克隆系统能产生极为逼真的韵律与音色模式；多通道深度伪造则同步图像、声音与手势。此外，用于训练检测器的数据集也存在局限：人口与语言多样性不足、场景缺乏对真实世界的代表性、过度依赖少数几个基准数据集。正视这些局限并非悲观，而是设计有效策略的必要条件。
对公共服务媒体而言，影响是直接的。RTVE 每年播出数千小时的信息内容，我们品牌本身就是目标：主持人的面孔和声音可能被克隆，用来为编造的故事增添可信度；档案画面也可能被重新剪辑、移出语境以实施欺骗。与此同时，我们的编辑部必须以越来越快的速度核实来自社交网络和第三方的素材。如果自动检测不能完全可靠，所有公共媒体都面临双重职责：保护自身播出内容的完整性，并为记者提供拆穿他人捏造内容的手段。正因如此，在 RTVE 我们不把虚假信息视为纯粹的技术问题，而是视为关乎视听公共服务可信度的战略问题。
如果不能只依赖检测虚假，就必须能够证明真实。在我看来，这正是公共媒体最大的技术机遇之一：内容溯源与可追溯性标准。C2PA 这类开放协议可以嵌入签名凭证，证明视听文件的来源并记录其后的任何改动，数字水印则以观众无法察觉的方式强化这种可追溯性。
在 RTVE，我们正在研究把这些内容凭证纳入我们制作和播出的文件，涵盖播出前后。任何公民都能核实一段视频确实来自 RTVE 且未被篡改，这意味着将历史上支撑视听公共服务的信任带入数字环境。真实性不再是一句承诺，而成为内容本身可验证的属性。
我们的研究得出的结论是：以当前技术状况，关于一份视听文件是否被篡改的最终判断必须由人来作出：一名熟悉各类检测平台、具有广博视听制作知识的从业者，能够识别暴露伪造的细微不一致——光照、色彩还原、时间连贯性。工具应当促成这一判断，而不是取代它。技术应当为新闻标准服务，而不是相反。
这种混合路径已在具体项目中落地。IVERES 等倡议——RTVE 与西班牙科研生态共同参与——把人工智能辅助核查的能力交到记者手中。使欺骗成为可能的同一项技术，由此成为拆穿欺骗者的盟友。
这一承诺是我们路线图的一部分：验证现有解决方案，并与行业共同开发更多方案。系统与创新总监部与核查平台 VerificaRTVE 一起在核查的技术增强方面开展工作，依托 RTVE 的合作讲席网络（cátedras），并与行业各参与方共同构建这一领域稳定的协作环境。
任何媒体，无论规模多大，都无法独自应对这一挑战。欧洲已通过《人工智能条例》和《数字服务法》迈出重要步伐，开始为合成内容确立透明度义务。但监管需要辅以操作性合作：欧洲事实核查标准网络（EFCSN）和国际事实核查网络（IFCN）等事实核查网络、伊比利亚美洲地区的 IBERIFIER 等项目，以及公共媒体联盟（Public Media Alliance）这样的国际联盟，都是分享工具、方法和经验教训的平台。RTVE 希望深化参与这些网络，因为对抗虚假信息的斗争要么集体行动，要么一事无成。而在这一切之外，面向公民的媒介素养教育仍然是最持久的疫苗。
在一个将被合成内容充斥的生态系统中，公共媒体的差异化价值恰恰在于此：成为可验证的真实信息来源。虚假信息是严重的威胁，但也是重申我们立身之本的机遇。如果我们能够把编辑严谨、溯源技术、辅助核查与国际合作结合起来，我们公共媒体就能成为民主社会即将需要的信任之锚。
曼努埃尔·戈麦斯（Manuel Gómez）博士任 RTVE 系统与创新总监，领导该机构的数字化转型和基于人工智能的解决方案的落地。他拥有信息学博士学位，在传媒和企业领域的数字项目执行方面经验丰富。他的工作聚焦于流程优化、用户体验和新兴技术集成，将战略视野与扎实的技术专长相结合。