OpenAI 在周二发布的一份报告中指出，疑似中国政府人员曾要求 ChatGPT 协助撰写一项用于大规模监控的工具提案，并帮助推广另一项据称扫描社交媒体账户以查找“极端言论”的工具。该报告就一项备受瞩目的人工智能技术如何被用于提高压制效率敲响了警钟，并罕见地揭示了威权主义滥用人工智能的更广阔世界。
美国和中国正在人工智能技术领域展开公开竞争，双方都在对新功能投入数十亿美元。但这份新报告显示，人工智能通常被疑似国家行为者用于执行相对平凡的任务，例如处理数据或使语言更加润色，而非任何惊人的新技术成就。OpenAI 的首席调查员 Ben Nimmo 对 CNN 表示：“中国国内正在推动更好地利用人工智能进行大规模监控等工作。中国共产党并非去年才开始监控自己的人民，但现在他们听说了人工智能，并且认为也许可以利用它来做得更好。”
报告指出，在一个案例中，一名“可能与中国政府实体有关联”的 ChatGPT 用户要求人工智能模型协助撰写一份工具提案，该工具旨在分析维吾尔族和其他“高风险”人群的旅行动向和警察记录。美国国务院在特朗普政府时期曾指责中国政府对维吾尔族穆斯林犯下种族灭绝和危害人类罪，但北京方面强烈否认这一指控。另一名说中文的用户要求 ChatGPT 协助设计一款工具的“宣传材料”，该工具据称扫描 X、Facebook 和其他社交媒体平台上的政治和宗教内容。OpenAI 表示已禁止这两名用户。
人工智能是中美这两个超级大国之间竞争最激烈的领域之一。今年 1 月，中国公司 DeepSeek 展示了一款类似 ChatGPT 的人工智能模型 R1，该模型具有所有熟悉的功能，但运营成本仅为 OpenAI 模型的几分之一，这令美国官员和投资者感到震惊。同月，唐纳德·特朗普总统吹捧了一项由私营公司投资高达 5 亿美元用于人工智能基础设施的计划。
针对 OpenAI 的调查结果，中国驻华盛顿大使馆发言人刘鹏宇表示：“我们反对毫无根据的攻击和诽谤中国。”刘鹏宇的声明还指出，中国正在“迅速建立一套具有鲜明民族特色的人工智能治理体系”，“这种方法强调发展与安全之间的平衡，具有创新性、安全性和包容性。政府已经出台了关于算法服务、生成式人工智能和数据安全等重大政策计划和道德准则，以及法律法规。”
OpenAI 的报告还包括其他几个例子，说明人工智能在国家支持和犯罪黑客的日常行动中有多么普遍，以及其他诈骗犯。疑似俄罗斯、朝鲜和中国的黑客都曾使用 ChatGPT 来执行诸如改进其编码或使其发送给目标对象的网络钓鱼链接更具说服力等任务。国家行为者使用人工智能的一种方式是改进他们过去存在的弱点。例如，中国和俄罗斯的国家行为者经常难以避免在社交媒体上的影响力行动中出现基本的语言错误。OpenAI 的另一位安全专家 Michael Flossman 告诉记者：“对手们正在使用人工智能来改进现有的技术，而不是发明新型的网络攻击。”
与此同时，根据该公司的数据，很可能位于东南亚国家缅甸的诈骗犯已经使用 OpenAI 的模型来处理一系列商业任务，从管理财务账户到研究在线诈骗的刑事处罚。但是，越来越多的潜在受害者正在使用 ChatGPT 在受骗之前发现诈骗行为。OpenAI 估计，ChatGPT“被用于识别诈骗的频率比被用于诈骗的频率高出三倍”。CNN 询问 OpenAI 是否知悉美国军方或情报机构使用 ChatGPT 进行黑客行动。该公司没有直接回答这个问题，而是将 CNN 指向 OpenAI 关于使用人工智能支持民主的政策。美国网络司令部是军方的进攻性和防御性网络部队，已经明确表示将使用人工智能工具来支持其任务。根据该司令部提供给 CNN 的路线图摘要，该司令部批准的“人工智能路线图”承诺“加速人工智能的采用和扩展能力”。前司令部官员告诉 CNN，网络司令部仍在探索如何在进攻性行动中使用人工智能，包括如何使用它来构建利用外国目标使用的设备中的软件漏洞的能力。
分析大模型：gemma2
得分：-75
原因：
文章主要内容集中在中国可能利用AI进行大规模监控，以及中国政府对维吾尔族人民的政策，这些都带有负面色彩。
原文地址：Suspected Chinese government operatives used ChatGPT to shape mass surveillance proposals, OpenAI says
新闻日期：2025-10-07
