AI造假甚(shen)至侵入历史记忆。今年年初，达豪、布痕瓦尔德(de)等约30家德(de)国(guo)集中营纪念机构和博物馆联合签署(shu)一封公开信，敦促社交媒(mei)体平(ping)台严厉打击利用AI生成大屠杀相关内容的行为。德(de)国(guo)历史学家伊丽丝(si)·格罗舍克说，利用AI生成的图像和视频(pin)看(kan)起来像极了(le)历史照片——黑白底色，骨(gu)瘦如柴的人，铁丝(si)网(wang)后呼号的孩子……但仔细看(kan)就会发现(xian)异常，这类图像和视频(pin)中的人长(chang)相相似(si)，身高相仿，而且都非常漂亮。

“AI让纳粹受害者变得更年轻漂亮，这种美化扭曲了(le)历史，却利用公众同情心获得广泛传播。”格罗舍克说，这类伪造的帖子会削弱纪念馆、档案馆、博物馆和研究机构工作的权威性，损害它们的公信力。

操纵制造“社会共识”

比伪造内容更危险的，是AI可(ke)以伪造“多数人的意见”。一个国(guo)际团(tuan)队近期在美国(guo)《科学》杂(za)志“政策论坛”栏目发表(biao)文章说，数字操控正进入新阶(jie)段。散布虚假信息的不再只是单个账号，而是伪装成真实用户的AI集群。这类集群能够彼此互动、回应真人、适(shi)应情绪变化，并在不断相互附和和强化中制造出一种并不存在的“社会共识”。

德(de)国(guo)康斯坦茨(ci)大学研究人员达维德(de)·加西亚解释说，这类AI集群由一组可(ke)被个人或(huo)组织(zhi)控制的AI智(zhi)能体构成。它们拥有相对稳定的身份和记忆，能够模拟(ni)人类行为，既可(ke)以围绕(rao)特定目标协同行动，也能够根据实时事件和用户反馈调整表(biao)达方式。这类AI集群与(yu)早期的僵尸网(wang)络有着(zhe)显著区别，后者通常行为机械，较容易识别；而前者可(ke)以跨平(ping)台运(yun)行，并通过彼此呼应不断放大影响。

加西亚认为，真正的风险将不再局(ju)限于(yu)个别虚假信息，而是“操纵者”可(ke)能借助大模型虚拟(ni)出“另一种社会”。他说：“AI集群可(ke)以通过缓慢(man)而持续的过程，制造某种立场已获广泛支持的假象，进而影响人们的观点甚(shen)至改变社会规范(fan)。当许多看(kan)似(si)彼此独(du)立的声(sheng)音不断表(biao)达相同立场时，多数派的错觉就会形(xing)成，即使这种多数原本并不存在。”

从被动辟谣到主动识别

面(mian)对这种可(ke)以伪造“社会共识”的新威胁，研究人员和机构已经开始行动，利用技术手段予以识别，并通过健(jian)全(quan)监督(du)机制，及时鉴(jian)别和揭露虚假信息和内容。

加西亚认为，应利用模式识别等技术手段，检测内容传播中是否存在异常同步、相互呼应和跨平(ping)台联动，以更快发现(xian)由AI驱动的群体性操纵。

除了(le)技术识别，研究人员还主张(zhang)建立独(du)立监督(du)机制，持续观察(cha)AI智(zhi)能体如何在不同平(ping)台上影响公共讨论，及时揭露虚假内容。加西亚说，这类网(wang)络越早被揭露出来，就越难侵蚀公众信任，也越难把原本多样的社会意见伪装成单一共识。

德(de)国(guo)人工智(zhi)能研究中心（DFKI）和莱茵兰－普(pu)法尔茨(ci)州政治教(jiao)育中心等机构日前推出尚处(chu)于(yu)测试阶(jie)段的深度防伪检测工具，以提高公众对可(ke)疑内容的识别能力。与(yu)仅依赖像素异常识别伪造痕迹的传统方法不同，该工具不仅会对图像和音频(pin)进行取证分析，还会结合上下文展开交叉(cha)核验。后台的AI智(zhi)能体会并行检索网(wang)络信息，并调用经过核实的事实资源库辅助判断，包括德(de)新社事实核查团(tuan)队提供的数据。

DFKI在新闻公报中说，用户只需转发给检测系统，系统随后会分析相关材料是否由AI生成或(huo)经过篡改，并向用户反馈其为虚假内容的可(ke)能性以及相应线索。

莱茵兰－普(pu)法尔茨(ci)州政治教(jiao)育中心主任伯恩哈(ha)德(de)·库卡茨(ci)基说，虚假信息已成为当前信息传播中的突出问题(ti)，公民每天都可(ke)能接触到被操纵的内容，因此辨别和核验信息的能力尤为重要。（完）