人工智能、深度伪造与政治选举（四）

微信扫码，打开到小程序

人工智能、深度伪造与政治选举（四） 四、人工智能对 2024 年全球政治选举的影响 如今，人工智能开始在政治选举中崭露头角，但它与政 治的融合既带来希望也带来陷阱。有专家推测，人工智能可 能在 2024 年对全球政治选举安全构成威胁，它们可能成为 错误信息的主要来源。[1]利用人工智能深度伪造的宣传威 胁对各国政治选举的影响不容小觑，特别是美国大选是全球 应对人工智能技术挑战的重大选举。 1.人工智能重新定义政治选举参与方式。2024 年 2 月 8 日，巴基斯坦国民议会选举投票在下午结束。由于发生多起 袭击事件，最终投票结果迟迟未能出炉，伊姆兰·汗和纳瓦 兹·谢里夫两名前总理分别宣布胜选。不过，他们宣布获胜 的方式截然不同。10 日凌晨，伊姆兰·汗所在的正义运动党 （PTI）通过伊姆兰·汗（Imran Khan）的 X 账号发布一段 人工智能制作的“真人讲话”视频宣布获胜。“你们兑现了 信任，你们的高投票率震惊了所有人。”伊姆兰·汗还“说”， 没有人会接受谢里夫称其胜选的说法，因为他赢得的席位较 少，而且投票中存在操纵行为。[2]71 岁的伊姆兰·汗，在 2023 年 8 月因为腐败案被判刑 3 年，2024 年 1 月又因为泄 露国家秘密罪和非法出售国礼罪分别被判刑 10 年和 14 年， 一直在监狱中服刑。不过，伊姆兰·汗在入狱后仍多次通过人工智能视频向支持者发表讲话。早在 2023 年 12 月，正义 运动党就利用人工智能生成带有伊姆兰·汗照片的视频向支 持者发表讲话。这段讲话视频是在正义运动党的一个网上集 会上播放的，在 YouTube 上吸引 150 多万次观看，在其他社 交媒体有数万人观看直播。正义运动党表示，伊姆兰·汗的 演讲是根据他在狱中的书面讲稿生成的。2024 年 1 月 21 日， 伊姆兰·汗已经第二次通过人工智能生成的音频在国际虚拟 大会上向支持者发表讲话。这段 4 分钟的视频于发布在伊姆 兰·汗的官方账号 X，伊姆兰·汗的声音谈到加沙平民大屠 杀和俄乌冲突，向国际社会发出严峻信息：“世界正走向一 场严重的国际危机”。伊姆兰·汗还谈到巴基斯坦国内事务， 表达了对国内前所未有的内部冲突的担忧。他说，“整个国 家机器”正在歪曲巴基斯坦的法律和宪法，只是为了让他和 他的政党巴基斯坦正义运动党(PTI)退出选举进程。在 24 小 时内，这段音频播放量超 70 万次，在 X 上被转发 2.2 万次。 大会进行了两个多小时，政治分析家和正义运动党成员讨论 了党的未来，即将举行的国家选举。在 YouTube 上有超过 2 万名观众观看这次大会。伊姆兰·汗虽然正在监狱服刑，正 义运动党受到媒体禁令，但是他仍能通过音频和视频向支持 者发表讲话。这种事情以往是不可想象的，因为政治家一旦 进监狱，就再也看不到他的人、听到他的声，他就会从公众 视野消失，人们很快就会忘记他。2024 年 2 月 8 日，巴基斯坦将举行大选。政治分析师、安格鲁公司前部门经理沙希 德·拉希德 (Shahid Rashid)表示，看看近百万人如何观看 伊姆兰·汗的人工智能演讲就知道，人工智能正在重新定义 我们今天参与政治的方式，标志着政党对外宣传战略的重大 转变。人工智能可以实现量身定制和有针对性的竞选策略， 确保信息有效共鸣。[3]伊姆兰·汗通过人工智能视频发表 演讲以吸引选票，表明人工智能是一种有用的政治工具，已 经进入到政治选举舞台。 2.人工智能生成虚假信息是政治选举最大风险。当前， 利用人工智能深度伪造的虚假信息误导选民和扭曲选举的 风险引发人们对政治选举的公正性和透明度的关注。达沃斯 世界经济论坛发表《2024 年全球风险报告》，将人工智能生 成的错误和虚假信息排在气候变化、战争和经济疲软之前， 列为全球十大风险之首，指称“人工智能生成的错误和虚假 信息是 2024 年全球最大风险。”该报告是对 1400 多名全球 专家、政策制定者和行业领导者进行调查后撰写的。世界经 济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传 播，将加剧以两极分化和不安全为特征的全球秩序和经济的 不确定性，各国领导人必须齐心协力应对这些挑战。”巴基 斯坦政治观察家哈立德称：“利用人工智能进行深度造假在 网络上的传播度迅速提升，可能引发错误信息的完美风暴。” 2024 年 1 月 21 日，美国新罕布什尔州共和党初选的前两天，数千名选民接到冒充拜登的机器人语音电话：“把你们的选 票留在 11 月份再投很重要。在这周二（23 日）投票，只会 让共和党人得逞，让特朗普再次当选为共和党候选人”。电 话录音建议选民不要给特朗普投票，把选票留到 11 月大选 时投给民主党。随后，美国政府澄清这是利用人工智能伪造 拜登声音的电话语音。这种机器人电话（robocall）被称为预 录电话，使用计算机控制的自动拨号器来发出预先录制好的 信息，就像机器人一样，一般以推销或传播某种信息为目的。 美国语音欺诈检测公司“静默”公司称，人工智能初创公司 “十一实验室（ElevenLabs）”的技术被用于制作冒充拜登的 机器人语音电话录音。“十一实验室”暂停了利用深度造假 技术发布信息的账号。1 月 23 日，特朗普宣布在新罕布什尔 州共和党初选获胜，有望连续第三次赢得共和党总统提名。 “假拜登来电”迅速成为美国媒体的热门话题也再度引发关 于人工智能深度伪造可能影响大选的讨论。美国联邦通信委 员会把使用人工智能生成的声音进行呼叫定性为非法，并称 机器人电话中用人工智能生成的声音“在过去几年中不断升 级”，并且“有可能通过模仿名人、政治候选人和亲密家庭 成员的声音来制造错误信息迷惑消费者”。 事实上，人工智能已经渗入美国总统竞选活动。美国硅 谷科技开发者为民主党总统参选人迪恩·菲利普斯创造了一 个仿真聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。此前，人工智能生成的虚假信息已多次干扰美国 政治选举。在 2023 年 2 月芝加哥市长选举第一轮投票前夕， 社交媒体出现一段关于候选人保罗·瓦拉斯的视频，伪造瓦 拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑 人”，并呼吁削减警察经费。在瓦拉斯向社交媒体平台发出 投诉后，社交媒体删除了这段视频，但该视频在下架前已经 被浏览了数千次。人们对瓦拉斯的语音录音是否伪造视而不 见。美国政府监管组织“捍卫公众利益组织”负责人罗伯 特·韦斯曼称，政治深度伪造时刻已经到来，政策制定者必 须尽快采取保护措施，否则将面临选举混乱。深度伪造会播 下混乱的种子，使欺诈行为永久化。布鲁金斯学会专家韦斯 特称：“预计今年大选将是一场势均力敌的激烈竞争，只要 能改变三四个州 5 万张选票就可能具有决定性作用。”非营 利组织学者霍尔曼认为，人工智能就可能起到这样的作用， 并可能“决定这场选举的结果”。 3.人工智能内容能以多种方式影响 2024 年的选举。与 过去的选举宣传相比，人工智能生成的内容质量更高、更容 易大规模生产，从而有可能增强破坏性宣传活动的效果。此 时，人工智能内容更像是虚假信息传播的放大器，威胁包括： 制造社会就某些政治问题形成共识的假象；削弱政府对选民 需求的响应，破坏政府反应能力，；左右公众舆论，加剧分 歧；打击或欺骗选民，降低选民参与选举的积极性；破坏对选举过程的信任。[4]从自动电话到社交帖子，不同类型信 息即便在没有人工智能生成内容的情况下，也一定会继续传 播，但生成内容可能使大规模信息输出的成本更低、更容易 被世界各地的选民们采信，也更难被识别和揭穿。例如，深 度伪造和语音克隆已经被用来模仿竞选公职的候选人。在美 国新罕布什尔州初选前，人工智能模拟总统拜登的自动电话， 试图阻止民主党选民投票。恶意行为者还可以利用生成的图 像，使通过虚假账户影响受众的行为看起来更可信。现在， 人工智能可以轻易创建大量人物资料。自动化流程也有助于 更快捷地同时 操纵这些虚假账户。最后，在社交媒体上或 通过代理网站分享的大量不同内容的文本可以被用来制造 社会就某些政治问题形成共识的假象，或散播不同的叙事， 而不会像过去那样出现令人起疑的语法错误和行话误用。网 络上缺乏高质量的、以少数族裔语言呈现的选举相关信息， 人工智能生成内容可以填补这一空白，并占据搜索结果页面， 因为算法在一定程度上依据内容的新鲜度对搜索结果进行 排序。 [1]https://www.foxnews.com/politics/voters-should-b e-scared-s-less-about-2024-election-rigging-because-of-ai. [2]https://www.guancha.cn/internation/2024_02_10_7 25082_2.shtml. [3]https://sputniknews.cn/20240124/1056609469.html. [4]http://en.iiss.pku.edu.cn/__local/3/7F/3D/9EA4 A3B30950C7A22DAC5E56962_861E8C97_60B97.pdf.