人工智能、深度伪造与政治选举（二）

微信扫码，打开到小程序

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人 工智能制作其卡通形象并取名“可爱”，受到众多青年人的 喜爱。在印尼大选期间，曾以铁腕统治印尼 30 多年的前总 统苏哈托的一段讲话视频出现在网上，吸引了许多选民关注。 不过，这段视频是人工智能生成的。发布该视频的印尼专业 集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选 后调查，普拉博沃在青年选民中以 60%的得票率大幅领先。 最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉 教授、人工智能专家加里·马库斯（Gary Marcus）指出， 相信这项技术将在未来的选举中发挥重要作用，很难否认人 工智能生成的内容不会成为下一次选举的主要力量。 2. 人工智能成为操纵政治选举的强大武器。深度伪造 技术在政治选举当中成为一种武器。首先，恶意的行为者会 伪造证据，助长虚假指控和虚假叙述。例如，通过对候选人 发表的原有言语进行微妙改变，使其品格、健康状况和心理 健康受到质疑，而多数受众完全不知到真假。深度伪造技术 可以用于创建全新的虚拟内容，包括有争议的发言或仇恨言 论，目的是操纵政治分歧议题甚至是煽动暴力行动。在一些 国家和地区，深度伪造技术已被用来破坏政治选举。2023 年 芝加哥市长选举前夕，“芝加哥湖畔新闻”（Chicago Lakefro nt News）发布一张市长候选人、温和派民主党人保罗·瓦 拉斯（Paul Vallas）的照片以及一段录音，瓦拉斯在淡化警 察枪击事件，认为“在我那个时代，警察在他们的职业生涯 中会杀死多达 18 人”“没有人会睁一只眼闭一只眼”“我们 需要停止为警察提供资金并开始退款”。这段录音被用来抨 击瓦拉斯对枪击事件视而不见。虽然瓦拉斯竞选团队谴责该 录音由人工智能生成，但录音已经在网上广泛流传。两个月后，瓦拉斯最终竞选失败可能与该录音的负面影响有关。布 鲁金斯学会（Brookings Institution）专门研究人工智能影响 的研究员克里斯·梅塞罗尔（Chris Meserole）指出，可以想 象一种情况，即在选举的关键时刻，录音可能会浮出水面， 而候选人很难证明这是假的。兰德公司（Rand Corporation） 也提出类似担忧，称这种策略是“谎言之火”，可能会在未 来选举前向选民开火。[2] [1] https://www.rand.org/pubs/perspectives/PEA1043-1.ht ml. [2] https://www.foxnews.com/politics/voters-should-be-sc ared-s-less-about-2024-election-rigging-because-of-ai.