**中国和伊朗被指利用美国AI模型进行秘密影响力活动**
OpenAI的一份最新报告显示，一些可能位于中国和伊朗的行动者正在研究新的方法，利用美国的人工智能（AI）模型进行恶意活动，包括秘密的影响力运作。这份二月份的报告披露了两起涉及疑似源自中国的行动者的干扰事件。报告称，这些行动者已经使用或试图使用OpenAI和Meta构建的模型。
其中一个案例是，OpenAI封禁了一个ChatGPT账户，该账户生成了批评中国异议人士蔡霞的评论。这些评论由声称位于印度和美国的账户发布在社交媒体上。然而，这些帖子似乎并未引起大量的在线互动。该行动者还利用ChatGPT服务生成了长篇西班牙语新闻文章，这些文章“诋毁”美国，随后被拉丁美洲的主流新闻媒体发表。这些文章署名为个人，有时甚至是一家中国公司。
OpenAI的情报和调查团队首席研究员本·尼莫在最近一次包括福克斯新闻数字频道在内的新闻发布会上表示，至少有一次翻译被列为赞助内容，这表明有人为此付费。OpenAI表示，这是中国行动者首次成功地将长篇新闻文章植入主流媒体，以针对拉丁美洲受众传播反美叙事。
尼莫说：“如果没有对人工智能使用的观察，我们将无法将推文与网络文章联系起来。”他补充说，由于威胁行为者使用其模型的方式，他们有时会让OpenAI瞥见他们在互联网其他部分正在做的事情。“根据他们自己生成的内容，这让我们得以一窥一个非民主行为者试图将民主或美国的人工智能用于非民主目的的方式，这相当令人不安，”他继续说道。
该公司还封禁了一个ChatGPT账户，该账户生成了推文和文章，然后发布到与已知的伊朗影响力运作（IOs）公开相关的第三方资产上。这两项行动已被报告为独立的努力。该威胁报告指出：“在这些行动之间发现潜在的重叠——尽管很小且孤立——引发了一个问题，即这些伊朗IOs之间是否存在合作关系，其中一个运营者可能代表看似不同的网络工作。”
在另一个例子中，OpenAI封禁了一组ChatGPT账户，这些账户使用OpenAI模型来翻译和生成评论，用于跨X、Facebook和Instagram等平台的“杀猪盘”网络。在报告这些发现后，Meta表示，该活动似乎源自“柬埔寨一个新设立的诈骗场所”。
去年，OpenAI成为首个发布报告的人工智能研究实验室，旨在通过支持美国、盟国政府、行业合作伙伴和利益相关者，防止对手和其他恶意行为者的滥用行为。OpenAI表示，自第一份报告发布以来，它已大大扩展了其调查能力，并对新型滥用行为有了更深入的了解，并已阻止了各种恶意用途。该公司认为，除其他干扰技术外，如果将信息共享给上游提供商（如托管和软件提供商）以及下游分发平台（社交媒体公司和开源研究人员），人工智能公司可以获得关于威胁行为者的重要见解。
OpenAI强调，他们的调查也受益于同行分享的工作。“我们知道威胁行为者会不断测试我们的防御。我们决心继续识别、预防、阻止和揭露滥用我们的模型以达到有害目的的企图，”OpenAI在报告中表示。
分析大模型：gemma2
得分：-65
原因：
文章直接点名中国，指出中国有利用AI进行不当行为的嫌疑，给出了较为负面的评价。
原文地址：China, Iran-based threat actors have found new ways to use American AI models for covert influence: Report
新闻日期：2025-02-21
