**AI伪造拉美裔记者形象，TikTok成虚假信息温床**
近90个TikTok账户利用人工智能技术，伪造知名西班牙语记者形象，在线传播虚假信息，意图牟利。其中超过三分之一的账户使用AI生成的美国知名拉美裔记者豪尔赫·拉莫斯形象，播报捏造的新闻。
拉莫斯本人在TikTok上发布视频辟谣称，从未说过特朗普总统之子巴伦·特朗普闯入联合国谴责遣返其母亲、第一夫人梅拉尼娅·特朗普的虚假言论。拉莫斯在离开Univision电视台后，今年在社交媒体上推出了新节目“Así Veo las Cosas”。他表示，人工智能的发展难以阻挡，充斥着冒用其名义散布谣言的虚假视频。
康奈尔大学康奈尔科技学院安全、信任和保障倡议主任Alexios Mantzarlis发现，88个TikTok账户频繁使用AI生成的拉莫斯以及Telemundo和Televisa等西班牙语新闻网络的其他拉美裔新闻主播形象，专门针对美国西班牙语受众传播虚假信息。NBC新闻在TikTok应要求关闭这些账户前，审查了这些账户的内容。
这些账户大多创建于今年，使用拉莫斯、Noticias Telemundo和NBC新闻主播何塞·迪亚兹-巴拉特以及Televisa主播恩里克·阿塞维多的AI形象，捏造关于移民等分裂性话题的虚假新闻，以及关于特朗普、杰弗里·爱泼斯坦和肖恩·“迪迪”·科姆斯等人的阴谋论。最近的视频利用AI形象讲述了虚构的虎鲸袭击事件和不存在的儿童宵禁令等虚假故事。
阿塞维多的AI形象发布的虚假信息视频评论显示，一些用户似乎已识别出内容的虚假性，但另一些用户则对此表示担忧，表明他们相信了这些谣言。阿塞维多表示，这些深度伪造劫持了他的声音、形象，更重要的是，劫持了他多年来与观众建立的信任。他呼吁公开揭露这些行为，但这种威胁的规模超出了任何一位记者所能应对的范围。
TikTok发言人表示，该公司已禁止这些账户，理由是其违反了社区准则，并将继续警惕地保护平台免受有害虚假信息和欺骗性AI生成内容的侵害。Mantzarlis表示，平台上可能还有数百个此类账户。他早在六个月前就开始研究这一趋势。今年3月，Mantzarlis发现近40个冒充Telemundo和Univision的TikTok账户，利用AI生成的内容和知名专业记者的声音传播关于社交媒体上易于传播话题的虚假信息。这些账户在被TikTok关闭前，未被发现约一个月。
Mantzarlis表示，随着越来越多的社交媒体平台将AI工具整合到其应用程序中，生成可信的AI形象变得更加容易，TikTok上的这种趋势也在不断演变。根据他的研究，这些TikTok账户背后的创建者不断尝试各种方法来生成能够产生大量观看次数的内容，以积累至少10,000名粉丝，这是TikTok创作者奖励计划下视频盈利的最低要求。他们已经确定，针对美国受众的西班牙语耸人听闻的新闻能够带来流量，因此他们会尝试迎合这一需求。这就是为什么他们甚至使用非西班牙语母语者的AI生成版本，包括一位巴西记者和“每日秀”的喜剧演员，来传播西班牙语虚假信息。
Mantzarlis表示，他发现了“非常强有力的证据”表明，此类TikTok账户的建立是为了获得足够的粉丝来通过视频获利。然后，这些已盈利的TikTok账户被出售给其他人，这些人可以改变主题和方向，找到另一个可以盈利的领域。Mantzarlis发现了一个由巴西TikTok创作者管理的加密聊天群，他们声称出售预装了AI生成点击诱饵内容的已盈利社交媒体账户。其中，有人声称以300巴西雷亚尔（约合55美元）的价格出售一个名为“Tv Telemundo”的已盈利TikTok账户。该账户之前发布了AI生成的新闻和宗教内容，以获得11,000名粉丝。现在，该账户分享AI生成的健康内容。
Telemundo数字新闻和流媒体副总裁Marta Planells表示，该网络一年多来一直在举报冒充Telemundo及其主播的TikTok账户。Planells表示，一旦这些账户被举报，TikTok就会积极关闭它们。但这种情况发生后，会有更多的账户出现。即使在Mantzarlis上周根据最初的88个TikTok账户样本发布了他的研究报告后，他还是发现了其他六个账户，这些账户发布由真实拉美裔记者AI形象播报的虚假信息。TikTok也关闭了这些账户。TikTok没有告诉NBC新闻Mantzarlis发现的账户中是否有任何账户参与了创作者奖励计划。TikTok在一份公司报告中声称，已主动删除了超过94%的被认定为违反其关于AI生成内容和虚假信息政策的内容。尽管做出了删除虚假内容的努力，拉莫斯仍然鼓励他在TikTok上的粉丝保持“警惕，因为虚假信息无处不在”。他说：“有大量看似真实的虚假视频。当然，这会造成很多混乱。”
分析大模型：gemma2
得分：0
原因：
文章主要关注的是AI技术被滥用以及社交媒体平台上的虚假信息传播问题，与中国没有直接关系，因此没有正面情绪。
原文地址：What’s behind the TikTok accounts using AI-generated versions of real Latino journalists?
新闻日期：2025-08-19
