世界各地的选举都面临着来自外国参与者的不断演变的威胁,其中之一涉及人工智能。
2016年,俄罗斯在社交媒体上发起了一系列针对美国总统选举的虚假信息活动,试图影响彼此选举的国家进入了一个新时代。 在接下来的七年里,许多国家 — — 尤其是中国和伊朗 — — 利用社交媒体影响美国和世界其他地方的外国选举。 没有理由预期 2023 年和 2024 年会有所不同。
但有一个新元素:生成式人工智能和大型语言模型。 它们能够快速、轻松地生成关于任何主题、任何语气、任何角度的大量文本。 作为一个 安全专家,我相信这是一个独特适合互联网时代宣传的工具。
这都是非常新的。 ChatGPT 于 2022 年 11 月推出。功能更强大的 GPT-4 于 2023 年 3 月发布。其他语言和图像制作 AI 的年龄也差不多。 目前尚不清楚这些技术将如何改变虚假信息、它们的效果如何或将产生什么影响。 但我们即将找到答案。
选举的结合
选举季即将来临 全面展开 在民主世界的大部分地区。 从现在到明年底,生活在民主国家的71%的人将在全国选举中投票。 其中:阿根廷和波兰10月,台湾1月,印度尼西亚2月,印度4月,欧盟和墨西哥6月,美国11月。 包括南非在内的九个非洲民主国家将于 2024 年举行选举。澳大利亚和英国没有固定日期,但选举很可能在 2024 年举行。
其中许多选举对于过去进行过社交媒体影响力运作的国家来说非常重要。 中方高度关心 台湾, 印度尼西亚, 印度 和 许多非洲国家。 俄罗斯关心英国、波兰、德国和 欧盟总体情况。 每个人都关心美国。
这还只是考虑到最大的参与者。 2016 年以来的每一次美国大选都会有另一个国家试图影响选举结果。 首先是俄罗斯,然后是俄罗斯和中国,最近是这两个国家加上伊朗。 随着外国影响力的财务成本下降,更多国家可以参与其中。 ChatGPT 等工具显着降低了制作和分发宣传品的成本,使更多国家能够将这种能力纳入预算范围内。
选举干扰
几个月前,我参加了一场由美国所有网络安全机构代表参加的会议,他们谈到了对 2024 年选举干预的期望。他们期望常见的参与者——俄罗斯、中国和伊朗——以及一个重要的新参与者: “国内演员。” 这是成本降低的直接结果。
当然,开展虚假信息活动不仅仅是生成内容。 困难的部分是分配。 宣传人员需要一系列虚假帐户来发布信息,并需要其他帐户来将其推向主流,以便病毒式传播。 像 Meta 这样的公司在识别这些账户并将其删除方面已经做得更好了。 就在上个月, 元数据公布 它已经删除了 7,704 Facebook 账户、954 个 Facebook 页面、15 个 Facebook 群组和 15 个与中国影响力活动相关的 Instagram 账户,并在 TikTok、X(以前称为 Twitter)、LiveJournal 和 Blogspot 上发现了数百个账户。 但这是四年前开始的一场运动,产生了人工智能之前的虚假信息。
虚假信息是一场军备竞赛。 进攻方和防守方都进步了,但社交媒体的世界也不同了。 四年前, 推特 是与媒体的直接联系,在该平台上进行宣传是倾斜政治叙事的一种方式。 哥伦比亚新闻评论的一项研究发现,大多数主要新闻媒体 使用俄语推文 作为党派意见的来源。 几乎每个新闻编辑都阅读它的推特以及每个在上面发帖的人都已经不复存在了。
许多宣传机构从 Facebook 转移到 Telegram 和 WhatsApp 等消息平台,这使得它们更难识别和删除。 TikTok 是一个由中国控制的较新平台,更适合制作具有挑衅性的短视频——人工智能使制作这些视频变得更容易。 当前的生成式人工智能正在被 连接到工具 这也将使内容分发变得更加容易。
生成式人工智能工具还允许采用新的生产和分发技术,例如大规模的低水平宣传。 想象一下社交媒体上一个新的人工智能驱动的个人帐户。 在大多数情况下,它表现正常。 它发布有关其虚假日常生活的信息,加入兴趣小组并对他人的帖子进行评论,并且通常表现得像普通用户一样。 偶尔,但不是经常,它会说出或放大一些政治内容。 这些 人机器人正如计算机科学家拉塔尼亚·斯威尼(Latanya Sweeney)所说,它们对自己的影响可以忽略不计。 但如果复制了数千或数百万人,他们就会拥有更多。
关于人工智能类固醇的虚假信息
这只是一种情况。 俄罗斯、中国和其他地方负责干预选举的军官很可能让他们最优秀的人为他人着想。 他们的策略可能比 2016 年更加复杂。
俄罗斯和中国等国家有在规模较小的国家进行网络攻击和信息操作测试的历史,然后再进行大规模推广。 当这种情况发生时,能够识别这些策略非常重要。 打击新的虚假信息活动需要能够识别它们,而识别它们则需要立即寻找并编目它们。
在计算机安全领域,研究人员认识到共享攻击方法及其有效性是构建强大防御系统的唯一方法。 同样的想法也适用于这些信息宣传活动:研究人员对遥远国家正在使用的技术研究得越多,他们就越能更好地保卫自己的国家。
人工智能时代的虚假信息活动可能比 2016 年更加复杂。我认为美国需要努力对人工智能产生的信息进行指纹识别和识别 台湾宣传,一位总统候选人声称深度伪造的录音诽谤了他,以及其他地方。 否则,当他们到达这里时,我们就看不到他们了。 不幸的是,研究人员正在 有针对性的 和 骚扰。
也许这一切都会好起来的。 生成式人工智能时代发生过一些重要的民主选举,没有重大的虚假信息问题:阿根廷的初选、厄瓜多尔的第一轮选举以及泰国、土耳其、西班牙和希腊的全国选举。 但我们越早知道会发生什么,我们就能更好地应对即将发生的事情。