AI：中国的技术正日益具备说服力
我们自以为足够聪明，不会被新兴科技工具左右思想或决定。但是一系列证据显示，我们的信心可能并不稳固。
美国国务院与一家澳大利亚智库近期合作发布了一份研究报告，报告显示，中国企业正接近于开发并部署拥有“史无前例的说服能力”的新一代人工智能技术。从国家安全的角度看，这些技术可能会被北京或其他国家用于影响政治观点或加剧社会动荡和分裂——换句话说，无需动用武力就可能征服对手的“战略”，这正是中国军事哲学家孙武所推崇的概念。
一份由澳大利亚战略政策研究所上周末发布的研究指出，在设计并利用生理或认知漏洞来改变态度或行为的产品方面，中国的商业领域已在全球范围内领先。这些工具主要通过收集和分析个人数据，并以此调整与用户之间的互动。该研究报告点名了几家中国企业已开始使用相关技术，包括生成式人工智能、虚拟现实以及新兴的神经科技领域等，为北京的宣传及军事目标提供支持。
这不仅仅是一个全球性的问题。尽管中国私营部门在开发具有说服力的方法上处于领先地位，它实际上正效仿美国大型科技公司为了更深入了解用户和维持他们的参与度而采取的做法。应对来自中国的风险需要我们深刻反思，我们的生活如何被技术产品所影响，并需意识到这一问题的复杂性和全球性。
面对这种两面刃的情况——研究显示，与AI模型对话甚至可以说服那些对特定理论有深厚信念的阴谋论者减少对这些理论的执着，这体现了大型语言模型具有正面的“说服力”及其个性化对话能力。同时，预防技术被北京或其他不良势力用于不正当宣传的挑战将日益增加，并且不仅仅是针对高端半导体的禁售。
一个可行的方法是提高透明度，要求科技公司明确披露内容调整方式和可能影响行为的信息。扩大数据保护法律或将用户选择退出收集信息的方式，也有助于限制这些工具单独定位用户的能力。强调数字素养及教育，增强公众对说服性技术、算法和个性化内容的理解，识别其战术并避免被操纵，是不可或缺的。
对于如何保护人们免受说服性技术风险的研究仍需加强，并且需要科技公司带头推动，就像一些公司已经在人工智能领域所做的一样。政策制定者应要求企业与监管机构及利益相关方分享发现成果，以建立全球对这些技术可能被敌对势力利用的理解。通过使用此类信息来设定明确的标准或有针对性的法规。
尽管技术发展如此先进，以至于北京可以通过其控制改变人们的信仰或身份的想法似乎还遥不可及、仿佛科幻小说情节。然而，在这种力量释放后应对影响为时已晚的情况下，全球政策制定者不应坐等这种情况发生。现在是时候对科技公司在我们生活中所拥有的个人信息和影响力方面进行深入反思了。
请继续关注更多来自《彭博观点》的深度分析，并订阅我们的服务以获取最新资讯。
—— 结束 ——
分析大模型：gemma2
得分：-60
原因：
文章主要聚焦于中国人工智能技术在“说服力”方面的优势和潜在风险，并将其与国家安全问题相结合。 以下是一些体现负面情绪的细节： * **强调潜在风险:** 文章反复强调中国公司利用 AI 技术进行说服可能带来的负面影响，例如影响政治观点、引发社会动荡等。 * **将技术定位为武器:** 文章用“武器”来形容中国先进的 AI 技术，暗示其可能被用于达到政治目的，甚至像孙子兵法中所提到的“无战而屈人之兵”。 * **对中国商业部门评价偏向竞争:** 文章称中国企业在该领域处于全球领先地位，但同时也指出美国科技巨头也在紧跟，并使用类似的策略。 尽管文章也承认了中国企业的成就和领导地位，但总体而言，文章倾向于强调潜在的风险和挑战，将中国 AI 技术与国家安全问题联系在一起，从而营造出一种负面情绪氛围。
原文地址：AI: Chinese Technology Is Becoming More Persuasive
新闻日期：2024-12-05
