一份最新报告显示，许多规模最大、影响最广的由国家资助的网络宣传活动已经开始使用人工智能（AI）技术，但效果往往不尽如人意。社交媒体分析公司Graphika的这份报告分析了九项正在进行的网络影响力行动，其中包括据称与中国和俄罗斯政府有关联的行动。报告发现，与许多社交媒体一样，这些行动也越来越多地采用生成式AI来制作图像、视频、文本和翻译。
研究人员发现，宣传活动的发起者已经开始依赖AI来执行核心功能，例如制作内容和创建社交媒体上的“网红”角色，从而简化了一些宣传流程。然而，研究人员也指出，这些AI生成的内容质量低下，几乎没有引起关注。
这一发现与许多研究人员之前的预期相反。随着生成式AI技术的日益成熟，人们曾担心，代表专制国家进行宣传的人员会利用高质量、具有说服力的合成内容来欺骗民主社会中最具辨别力的人。然而，Graphika的研究人员发现，这些已建立的宣传活动所创建的AI内容质量低下，从YouTube视频中不具说服力的合成新闻记者，到笨拙的翻译，再到意外地在标题中包含AI提示的假新闻网站，可谓是“粗制滥造”。
Graphika的高级分析师兼报告的合著者迪娜·萨德克表示：“影响力行动一直在系统地整合AI工具，但其中很多都是低质量、廉价的AI垃圾。”她还表示，与这些活动开始常规使用AI之前一样，它们在西方社交媒体网站上发布的大部分帖子几乎没有受到关注。
旨在影响美国政治和推动分裂信息的网络影响力活动至少可以追溯到十年前，当时总部位于俄罗斯的互联网研究机构创建了大量的Facebook和Twitter账户，并试图影响2016年总统选举。萨德克表示，与网络安全和编程等其他领域一样，AI的兴起并没有彻底改变网络宣传领域，但它确实使自动化某些任务变得更加容易。“这可能是低质量的内容，但它可以在大规模上进行扩展。他们只需坐在那里，可能只需要一个人按下按钮，就可以创建所有这些内容，”她说。
报告中引用的例子包括“Doppelganger”行动，美国司法部已将其与克里姆林宫联系起来，研究人员称该行动使用AI创建了不具说服力的假新闻网站；以及“Spamoflauge”行动，美国司法部已将其与中国联系起来，该行动创建虚假的AI新闻“网红”，以在X和YouTube等社交媒体网站上传播具有分裂性但缺乏说服力的视频。报告还引用了几项使用低质量深度伪造音频的行动。其中一个例子是发布了奥普拉·温弗瑞和前总统贝拉克·奥巴马等名人的深度伪造视频，视频中他们似乎在评论印度在全球政治中的崛起。但报告称，这些视频显得不具说服力，也没有引起太多关注。另一个亲俄视频名为“奥林匹克已沦陷”，似乎旨在诋毁2024年巴黎夏季奥运会。该视频是对2013年好莱坞电影《奥林匹斯陷落》的致敬，由AI生成的汤姆·克鲁斯主演，但汤姆·克鲁斯并没有参与这两部电影的制作。
报告发现，除了通常分享该活动电影的一小部分账户之外，该视频没有引起太多关注。中国驻华盛顿大使馆、俄罗斯外交部、X和YouTube的发言人没有回应置评请求。萨德克表示，即使他们的努力没有接触到很多人，但在AI聊天机器人时代，宣传人员也有价值淹没互联网。开发这些聊天机器人的公司不断地通过抓取互联网上的文本来训练他们的产品，然后重新排列并吐出来。非营利性亲民主组织战略对话研究所最近的一项研究发现，大多数主要的AI聊天机器人或大型语言模型在其答案中引用了国家资助的俄罗斯新闻媒体，包括一些已被欧盟制裁的媒体。
分析大模型：gemma2
得分：-20
原因：
文章直接点名了与中国有关联的“Spamoflauge”行动，并指出该行动使用AI创建虚假的AI新闻“网红”，以传播具有分裂性但缺乏说服力的视频。这直接将中国与虚假信息和影响力行动联系起来，构成了负面描述。
原文地址：Online propaganda campaigns are using ‘AI slop’, researchers say
新闻日期：2025-11-19
