**人工智能对民主的侵蚀日益加剧**
在过去的两年里，随着生成式人工智能的爆炸式发展，这项技术开始贬低或诽谤对手。官员和专家表示，它已经开始对选举结果产生影响，这还是首次。
人工智能工具使用起来既免费又便捷，大量伪造的照片和视频应运而生，其中候选人或支持者发表了不实言论，或出现在他们未曾涉足的场合。这些虚假信息在网上以匿名形式传播，相对而言不受惩罚。
这项技术加剧了社会和党派的分裂，助长了反政府情绪，尤其是在极右翼势力中。在德国、波兰和葡萄牙最近的选举中，这种趋势尤为明显。在罗马尼亚，政府官员表示，俄罗斯利用人工智能的影响行动玷污了去年总统选举的第一轮投票。一家法院宣布该结果无效，迫使上个月重新投票，并引发了新一轮的捏造。这是人工智能在选举结果中发挥决定性作用的首次重大选举，而且不太可能是最后一次。
随着技术的进步，官员和专家警告说，它正在削弱人们对选举公正性的信任，并侵蚀民主社会运作所必需的政治共识。罗马尼亚首都布加勒斯特国立政治研究与公共管理大学的教授马达琳娜·博坦表示，毫无疑问，这项技术已经被“用于明显的恶意目的”，以操纵选民。“这些机制非常复杂，它们确实设法在很短的时间内使一段内容迅速走红，”她说，“有什么能与之竞争呢？”
根据总部位于瑞士的独立科学家组织“信息环境国际小组”的数据，在2024年异常集中的选举浪潮中，超过80%的选举都使用了人工智能。该组织根据政府声明、研究报告和新闻报道，记录了当年选举中发生的215起人工智能事件。今年以来，人工智能已经在至少9个重要选举中发挥了作用，从加拿大到澳大利亚。
当然，并非所有使用都是邪恶的。在该小组调查的案例中，有25%的案例是候选人自己使用人工智能，依靠它将演讲和纲领翻译成当地语言，并确定要接触的选民群体。德克萨斯大学奥斯汀分校媒体参与中心的一项研究显示，在印度，克隆候选人的做法变得司空见惯——“不仅是为了接触选民，也是为了激励党员”。
然而，与此同时，数十个深度伪造——即重塑真人的照片或视频——利用人工智能来克隆候选人或新闻广播的声音。根据信息环境国际小组的调查，在69%的案例中，人工智能被认为是具有有害作用的。
在去年的美国总统选举中，出现了许多恶意案例，促使网络安全和基础设施安全局、国家情报总监办公室和联邦调查局的官员发布公开警告。但在特朗普领导下，这些机构已经解散了领导这些工作的团队。
佛罗里达国际大学教授英加·克里斯蒂娜·特劳提格领导了国际小组的调查，她说：“在2024年，这些技术的潜在好处在很大程度上被它们的有害滥用所掩盖。”
对人工智能最具欺骗性的使用来自试图干涉境外选举的专制国家，如俄罗斯、中国和伊朗。这项技术使它们能够扩大对更顺从其世界观的候选人的支持——或者仅仅是为了诋毁民主治理本身，认为它是一种低劣的政治制度。
在波兰上个月的总统选举前，俄罗斯发起了一项运动，试图煽动反乌克兰情绪，因为许多乌克兰难民已经搬迁到波兰。它制作了虚假视频，暗示乌克兰人计划发动袭击以扰乱投票。
在之前的选举中，外国的干预行动既麻烦又昂贵。它们依靠水军工厂的工人来生成社交媒体上的账户和内容，通常使用生硬的语言和文化上的用词不当。有了人工智能，这些工作可以以广播媒体和报纸成为政治新闻主要来源时无法想象的速度和规模完成。
研究数字威胁对民主国家影响的组织“欧洲联盟4”的研究员萨曼·纳扎里表示，今年德国和波兰的选举首次表明，这项技术对于外国运动以及国内政党来说是多么有效。“人工智能将对未来的民主产生重大影响，”他说。
Midjourney的图像生成器和谷歌新的AI音视频生成器Veo等商业工具的进步，使得区分捏造和现实变得更加困难——尤其是在匆匆一瞥的情况下。埃隆·马斯克开发的AI聊天机器人和图像生成器Grok，将很容易地复制包括政治家在内的受欢迎人物的图像。
这些工具使得政府、公司和研究人员更难识别和追踪日益复杂的活动。战略对话研究所的技术与社会主任伊莎贝尔·弗朗西斯-赖特说，在人工智能出现之前，“你必须在规模或质量之间做出选择——质量来自人类水军工厂，本质上是这样，而规模来自机器人，它可以给你规模，但质量很低。” “现在，你可以两者兼得，这确实是一个可怕的境地。”
包括Facebook、X、YouTube和TikTok在内的主要社交媒体平台都有管理人工智能滥用的政策，并在几起涉及选举的案件中采取了行动。与此同时，研究人员表示，它们由对任何能让用户不断滚动浏览的内容都有既得利益的公司运营，这些平台应该采取更多措施来限制误导性或有害内容。
例如，在印度的选举中，Meta平台上的AI内容很少像公司要求的那样标有免责声明。Meta没有回应置评请求。这不仅仅是虚假内容。圣母大学的研究人员去年发现，由AI工具生成的虚假账户可以很容易地避开八个主要社交媒体平台上的检测：LinkedIn、Mastodon、Reddit、TikTok、X和Meta的三个平台Facebook、Instagram和Threads。
引领生成式AI产品浪潮的公司也有反对操纵性使用的政策。该公司报告称，2024年，OpenAI扰乱了五项旨在影响卢旺达、美国、印度、加纳和欧盟选民的行动。本月，该公司披露，它在2月份德国选举期间发现了一项俄罗斯影响力行动，该行动使用了ChatGPT。在一个案例中，该行动在X上创建了一个机器人账户，该账户积累了27000名粉丝，并发布内容以支持极右翼政党德国另类选择党（AfD）。该党曾被视为边缘党派，但迅速跃居第二位，使其在议会的席位增加了一倍。（《纽约时报》已起诉OpenAI及其合作伙伴微软，指控它们侵犯了与AI系统相关的新闻内容的版权。OpenAI和微软否认了这些指控。）
最具破坏性的案例发生在去年年底罗马尼亚的总统选举中。在11月的第一轮投票中，一位鲜为人知的极右翼候选人卡林·乔治斯库在俄罗斯秘密行动的帮助下领先，该行动除其他外，还在TikTok上协调了一场虚假宣传活动。包括美国副总统JD·万斯和马斯克在内的批评人士谴责法院随后宣布投票无效是不民主的。万斯在2月份表示：“如果你的民主可以被外国花费数十万美元的数字广告摧毁，那么它一开始就不是很强大。”
法院下令上个月重新举行选举。乔治斯库面临刑事调查，被禁止再次参选，为另一位民族主义候选人乔治·西米昂扫清了道路。保加利亚-罗马尼亚数字媒体观察站的研究人员表示，随后出现了类似的操纵内容，包括让特朗普批评该国现任领导人的虚假视频。
5月18日，中间派布加勒斯特市长尼库索·丹在第二轮投票中获胜。欧盟已经对TikTok是否采取了足够的措施来限制该平台上大量存在的操纵活动和虚假信息展开调查。它还在调查该平台在爱尔兰和克罗地亚选举活动中的作用。TikTok在一份声明中声称，它迅速采取行动删除了违反其政策的帖子。它表示，在罗马尼亚第二轮投票前的两周内，它删除了7300多个帖子，其中包括人工智能生成的但未被识别为人工智能生成的帖子。它拒绝就这些声明之外的内容发表评论。非营利组织CivAI的创始人卢卡斯·汉森研究人工智能的能力和危险，他说，他担心的不仅仅是深度伪造愚弄选民的可能性。他警告说，人工智能正在混淆公众辩论，以至于人们变得幻灭。“信息生态系统的污染将是最难克服的事情之一，”他说。“我真的不确定是否还有回头路。”
分析大模型：gemma2
得分：-70
原因：
文章提到中国和俄罗斯、伊朗等国家被指控利用人工智能干预他国选举，并暗示中国可能利用该技术放大支持符合其世界观的候选人，或诋毁民主制度。这部分内容对中国的形象有负面影响。
原文地址：A.I. Is Starting to Wear Down Democracy
新闻日期：2025-06-26
