人工智能、深度伪造与政治选举（三）

微信扫码，打开到小程序

人工智能、深度伪造与政治选举（三） 三、人工智能对政治选举结果的实际影响 深度伪造技术可能会对政治选举产生前所未有的影响， 对国家选举、政策制定以及社会可信度提出严峻挑战。[1] 我们不得不思考，有多少选票是通过深度伪造对政治选举实 施操纵性影响而产生的？这些选票又对政治选举结果产生 了多大影响？ 1. 人工智能在一定情况下对政治选举结果可能具有决 定性作用。2023 年的土耳其总统选举，就像是人工智能干预 政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re cep Tayyip Erdogan）。“一开始，这有点困难。然而，随着 时间的流逝，我借此机会花更多的时间与家人在一起，更接 近大自然，花更多的时间给自己，”一个穿着长袍喝茶、冒 充埃尔多安的机器人说。在第二个故事中，埃尔多安从未放 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 跟上世界和宇宙的新秩序，密切关注技术发展并不断适应它 们”。[2]这种场景是对所有政治家可能面临的人工智能挑战。 2023 年的土耳其总统选举周期被社交媒体的大量错误信息 和虚假信息所破坏，关于政治家背景和言论的误导性信息很 普遍，民众经常遇到去语境化的陈述、歪曲、操纵和廉价伪 造。[3]在土耳其选举期间，政客们在集会上传递的错误信 息优先于公众获得准确信息的权利，而虚假信息是决定性的， 其误导选民并可能影响投票行为，加深土耳其社会两极分化 的风险。[4]2023 年 5 月，土耳其总统选举的决定性时刻， 民调显示总统埃尔多安与主要反对党候选人凯末尔·克勒奇 达尔奥卢（Kemal Kilicdaroglu）的选民支持率相差不大。克 勒奇达尔奥卢是土耳其反对派集团六党国家联盟的负责人， 并得到亲库尔德少数民族人民民主联盟（HDP）的正式支持。 民调显示，在 4 名候选人当中，克勒奇达尔奥卢对埃尔多安 的支持率略有领先，领先埃尔多安超过 3%，但都没有获得超 50%的选票。[5]5 月 28 日，土耳其第二轮总统选举投票结束， 埃尔多安以 52.16%的选票获胜，克勒奇达尔奥卢以 47.84% 的选票惜败。土耳其独立事实核查组织 Teyit 通讯主管 Seme rcioğlu 指出，虚假信息作为一种现象在过往选举中不时出现， 但在土耳其的这次选举中变得更加明显。第一轮选举前：民 调显示克勒奇达尔奥卢将在第一轮领先第二轮获胜，第三候选人因杰因所谓“性爱视频”退选而打破民调平衡，有 5% 的支持者分别流向其他候选人。2023 年 4 月，土耳其民调机 构 Metropoll 调查显示，克勒奇达尔奥卢将在第一轮投票中 获得 42.6%选票，高于埃尔多安的 41.1%，穆哈雷姆·因杰 （Muharrem Ince）则以 5%的选票排名第三。伊斯坦布尔民 调机构 TEAM 调查显示，克勒奇达尔奥卢将在第一轮投票中 以 47.4%得票率领先，在第二轮投票中将以 5%的优势战胜埃 尔多安。土耳其民调机构 Konda 于 5 月 12 日的调查显示， 埃尔多安的支持率为 43.7%，克勒奇达尔奥卢的支持率为 49. 3%。政治新闻网民调显示，科勒齐达奥卢将在第一轮投票中 获得近 50%的选票，埃尔多安获得 45%的选票，因杰获得 3% 的选票；在第二轮投票中，科勒齐达奥卢将以 51%的得票率 击败埃尔多安。不过，在第一轮投票前，土耳其反对党（C HP）主席厄兹坎（Tuncay Özkan）就指称，土耳其政府计划 在暗网发布一波深度伪造视频，以诋毁反对派。这些视频由 土耳其通信局委托制作，使用深度伪造技术编造，以加密货 币支付特别是比特币（BTC）。这些伪造视频旨在描绘针对反 对党的虚假叙事，以破坏民主、人权和法治原则。[6]深度 伪造技术专家亨利·阿杰德（Henry Ajder）对此表示担忧， 强调深度伪造的宣传材料具有公众说服力及影响公众舆论 的能力。阿杰德指出，社交媒体和虚假账号十分危险，充斥 着令人信服、听起来很像人类的深度伪造演讲，可以有效地塑造叙事并影响公众情绪。当未经证实的内容与个人的先入 为主的观念或偏见相一致时，它可能会被斥为“虚假”，从 而导致对真相的理解支离破碎。[7]事情的原由是：5 月 1 日， 一家小型伊斯兰新闻媒体 Yeni Akit 发布一段伪造视频，展 示库尔德工人党（PKK）[8]支持科勒齐达奥卢。5 月 7 日， 埃尔多安在在竞选集会上播放了同类视频，暗示科勒齐达奥 卢与库尔德工人党武装分子并肩作战。这是一个明显的伪造 视频，但被广泛传播并被公众采信，并进入反对派候选人的 搜索结果。当土耳其网民用谷歌搜索“科勒齐达奥卢”时， 这条虚假新闻是谷歌算法提出的首要推荐。非营利性新闻网 站 Journo.com.tr 的研究员兼总编辑克孜勒卡亚（Emre Kizi lkaya）说，研究表明谷歌搜索结果是土耳其民众主要新闻来 源，在选举前夕谷歌的搜索结果不成比例地偏向于对现任总 统友好的媒体。[9]尽管这两段视频都被 Teyit 揭露是虚假的， 但它们是非常有效的。5 月 11 日，民意支持率第三的候选人 因杰宣布放弃候选人资格。此前社交媒体出现据称是因斯的 “性爱录像带”，包括他与女性会面和乘坐豪华汽车的图像。 因杰否认录像的真实性，称这是“阴谋”的一部分。他表示： 发票、假视频、假图片……他们从以色列一家色情网站上截 取了一段视频，然后在上面加上了我的脸。不幸的是，土耳 其的一些人为了所谓的反对派而分享这些。”因杰的退选打 破了此前民调的平衡，增加了其他民调比例接近候选人在竞选中获胜的机会。Metropoll 的一项调查显示，因杰的支持者 49%将流向克勒奇达尔奥卢，22%会流向埃尔多安。因杰的民 意支持率一度高达 10%，到第一轮选举前民调支持率将至 2% 左右。民意调查机构康达 5 月 6 日-7 日的民调显示，埃尔多 安支持率为 43.7%，伊恩斯的支持率为 2.2%。[10]虽然因杰 不太可能获胜，但他不断减少的选票份额足以确保其他总统 竞选进入决选。[11]因杰退选的影响是非常真实的，他的大 多数支持者将转而支持其他候选人。然而，这些重新分配的 选票对第一轮投票可能是决定性的，性爱录像带只是一场戏 剧性的伪造行为。克勒奇达尔奥卢指责这场错误信息和外国 干预行动，他愤怒的目标是俄罗斯，长期以来俄罗斯一直被 视为埃尔多安的盟友。克勒奇达尔奥卢在因杰退出选举数小 时后发推文表示，“亲爱的俄罗斯朋友。你是昨天在这个国 家曝光的蒙太奇、阴谋、深度伪造和磁带的幕后黑手。如果 你想在 5 月 15 之后继续我们的友谊，请把你的手从土耳其 国家身上移开。我们仍然赞成合作与友谊”。[12]但他并没 有具体说明其指的是集会视频、明确的深度伪造或其他内容。 克勒奇达尔奥卢还表示，有人正计划试图通过深度伪造音频 来影响投票。[13]竞选对手通过改变声音和图像进行负面宣 传，他们已经与一些国外黑客达成协议并用比特币付款。[1 4]克勒奇达尔奥卢还表示，有具体证据表明俄罗斯在总统大 选前发布“深度伪造”的在线内容。[15]第一轮选举：5 月 14 日第一轮投票，埃尔多安获得 49. 5%的选票，克勒奇达尓奥卢获得 44.89%的选票。5 月 14 日 的第一轮投票，埃尔多安获得 49.5%的选票，克勒奇达尓奥 卢获得 44.89%的选票，极右翼联盟候选人奥安（Sinan Oğa n）获得 5.17%的选票，因杰的选票虽实质上作废，但依然有 分流选票功能，获得约 0.44％的选票。同时，土耳其国内出 现克勒奇达尓奥卢与恐怖主义组织有关系的争论。事由得回 到第一轮选举前一周。5 月 7 日星期日，埃尔多安在在伊斯 坦布尔举行的选举集会上播放了一段争议视频，显示库尔德 武装分子宣布支持克勒奇达尔奥卢。[16]这段视频以蒙太奇 形式描绘库尔德工人党领导人穆拉特·卡拉伊兰（Murat Ka rayilan）和战士们伴随反对派选举歌曲歌唱与鼓掌，并与克 勒奇达尔奥卢的画面拼接在一起，以显示库尔德工人党（P KK）支持克勒奇达尔奥卢。[17]在集会现场，埃尔多安问： “我的国家和地方公民会投票支持这些吗？”然后，他指了 指身后的大屏幕。随后屏幕出现一段视频显示，他的竞争对 手克勒奇达尔奥卢召集公民来到投票箱，然后另一个人穿着 军装出现。这个军人是库尔德工人党（PKK）创始人之一穆 拉特·卡拉伊兰（Murat Karayilan），库尔德工人党是被土耳 其、美国和欧盟列为恐怖组织。埃尔多安吹嘘说，170 万人 ——伊斯坦布尔人口的十分之一——参加了 5 月 7 日的集会。 [18]Teyit 估计可能集会参加人数为 690,000。埃尔多安竞选团队将竞争对手的真实竞选视频与库尔德工人党创始人之 一穆拉特·卡拉伊兰的图像拼接在一起，似乎暗示克勒奇达 尔奥卢得到恐怖组织支持。土耳其事实核查机构 Teyit 和德 国媒体调查发现，集会视频内容来自两个完全独立的视频， 土耳其反对派没有得到库尔德工人党的支持。视频的一部分 源自 2023 年 5 月 1 日发布的克勒奇达尔奥卢真实竞选视频。 这是一个典型的政治广告视频，要求人们投票并宣告其在民 调中获胜，但它不包含卡拉伊兰或库尔德工人党的画面。埃 尔多安选举集会视频是这个原始视频的特写镜头。这可以通 过克勒奇达尔奥卢的讲话（“让我们一起去投票箱”）、他右 臂动作以及他身后站立的年轻人来甄别。在原始竞选视频中 紧随其后的画面并没有卡拉伊兰，而是两名妇女离开一栋大 楼。埃尔多安选举集会视频涉及卡拉伊兰的画面，可以追溯 到卡拉伊兰的一次公开演讲，谈论了所谓 30 多年前库尔德 工人党武装斗争，该演讲视频于 2021 年 8 月 15 日首次播出。 在埃尔多安选举集会视频中，卡拉伊兰的画面很可能是从这 段视频中截取，并进行了去语境化，给人的印象是卡拉伊兰 正在支持克勒奇达尔奥卢。可见，埃尔多安竞选团队是将克 勒奇达尔奥卢的真实竞选视频画面与卡拉伊兰的视频画面 进行了结合，将其编辑成真假难辨的完整视频。[19]埃尔多 安选举集会发布的视频，在土耳其国内引发反对派是否与库 尔德工人党有勾连的争论。歪曲事实和伪造图像的指控满天飞，土耳其民众不知道是否还可以相信自己的眼睛。克勒奇 达尔奥卢的盟友、人民共和党（CHP）副主席 Engin Koc 在 Halk TV 脱口秀节目中指责埃尔多安的正义与发展党准备了 一段深度伪造视频，该视频显示反对派领导人与库尔德工人 党代表会面。[20]埃尔多安及其竞选团队试图借助篡改的视 频片段从保守派和民族主义选民那里收集选票。[21]克勒奇 达尔奥卢发推文指称，埃尔多安“可以通过改变声音和图像 进行负面宣传”，甚至暗示埃尔多安与外国特工结盟，大概 是俄罗斯人。埃尔多安政府与国外黑客达成协议并用比特币 付款。他在通过推文直接指责俄罗斯干预土耳其选举后称： “如果我们没有具体证据，我不会发推文。我们认为，另一 个国家为了一个政党而干预土耳其的选举进程是不可接受 的。”[22]第二轮选举：5 月 28 日第二轮投票，埃尔多安获 得 52.16%的选票（相较于第一轮增加 3.66%），克勒奇达尔 奥卢获得 47.84%的选票（相较于第一轮增加 2.95%）。从第 一轮到第二轮投票的两个星期内，反对派被执政党的这段视 频牵着鼻子走，陷入一场其是否与恐怖主义组织（HDP，P KK）有联系的争论漩涡。这扰乱了 CHP 主打的经济和反移 民牌，甚至在一定程度上得罪了库尔德选民。在第二轮投票 中，克勒奇达尔奥卢失去东部和东南部安纳多卢地区的一些 选票：在阿勒，宾格尔，比特利斯，哈卡里，迪亚巴克尔等 库尔德族聚居的城市，克勒奇达尔奥卢获得的选票相对第一轮有所下跌。第一轮选举两人选票相差 4.61%，第二轮选举 两人选票相差 4.32%。虽然俄罗斯坚决否认干预投票的指控， 但一些间接证据似乎确实表明俄社交机器人存在可疑活动。 2023 年 4 月，有媒体报道称，“数千个”休眠的俄语和匈牙 利语推特账号已被重新激活，以发布与土耳其政治有关内容。 “约有 12,000 个讲俄语和匈牙利语的社交媒体账户被激活 为土耳其语，现在关注所有政党和领导人。政治咨询和研究 公司 Dat 人工智能总经理“艾哈迈德·图兰·汉当表示，在 过去两周约有 10,000 个被激活。[23]回顾土耳其选举，埃 尔多安的主要政治对手克勒奇达尔奥卢指责俄罗斯使用深 度伪造和其他人工智能生成的信息来干预土耳其选举，俄罗 斯机器人账户、推特账户、各种虚假信息活动也支持埃尔多 安，因为克勒奇达尔奥卢在民意调查中保持微弱领先。另一 位候选人因杰声称自己是网上伪造的“性格暗杀”的受害者 并退出竞选。《卫报》报道，因杰声称所谓性爱录像带是使 用深度伪造技术制作的，使用了以色列色情网站的镜头，制 造出看起来和听起来都像真实人物和事件的视频和图像。[2 4]土耳其通讯部长法赫雷丁·阿尔通（Fahrettin Altun）在推 特上回应称，“我们打击虚假信息，我们认为虚假信息是民 主的最大敌人之一，并准确、快速和透明地向国内和国际舆 论提供信息。”[25]在土耳其选举前，克勒奇达尔奥卢就多 次警告，竞选对手可能使用“剑桥分析式”策略和使用深度伪造视频干预选举。[26]美国特别检察官罗伯特·穆勒（Ro bert Mueller）2019 年的报告发现，俄特工试图影响美国 20 16 年大选的结果，以支持特朗普。 [27]战略与国际研究中 心（CSIS）2020 年的一份报告称，从 2014 年开始，俄罗斯 开始瞄准东欧以外的国家，并扩大了策略，包括网络攻击和 在线虚假信息活动，意大利、德国和西班牙的选举和政治进 程都是目标。[28]2016 年的美国总统大选和英国脱欧公投， 剑桥分析公司利用 Facebook 用户数据画像选民心理，利用人 工智能等技术对选民进行微定向宣传，帮助特朗普胜选和英 国实现脱欧。那么人工智能、深度伪造对政治选举结果到底 起到什么作用，产生多大影响？目前的可能结论是，对于实 力相差悬殊的选举，人工智能、深度伪造或许能对选举产生 局部性影响，在一城一地出现选情反转，但不足以产生全局 性颠覆性影响。对于势均力敌的选举，人工智能、深度伪造 通过局部反转，足以决定选举结果。例如，2016 年的美国总 统大选，剑桥分析公司帮助特朗普在个些州获得微弱优势， 几万张选票反转就可以使选情产生大逆转。2.少量深伪内容 能以独特方式破坏政治选举的信息空间。自 2022 年 11 月 C hatGPT 发布以来，许多人关注人工智能通过生成虚假信息以 颠覆政治选举的可能性。大量评论认为人工智能可能加速虚 假信息生产，在 2024 年制造一场“虚假信息噩梦”。2023 年， 谷歌新闻索引结果到近 3 万篇新闻报道关注生成式人工智能工具会如何影响选举。然而时至今日，生成式人工智能尚未 像最初预期的那样改变信息格局。尽管人工智能生成内容在 整个信息空间中仍只占一小部分，但即使规模较小，经人工 智能完全生成或经过大幅修改的内容仍然可以通过各种方 式破坏民主话语和选举公正性。在政治选举的大背景下，即 使是少量的虚假生成内容也会破坏选举信息环境。例如，在 选举最后关头伪造一段视频对候选人进行丑化或诬蔑，影响 选民正常投票。2023 年 9 月，生成式人工智能的政治干预对 斯洛伐克议会选举产生颠覆性影响。此次议会选举事关斯洛 伐克对乌克兰的军事援助以及对北约的支持。然而，就在选 民投票的两天前，一段带有生成内容标记的音频在社交媒体 大肆传播。该音频据称是亲北约的斯洛伐克进步党领袖米哈 尔·希梅奇卡（Michal Šimečka）和一位记者讨论如何操纵 选举的录音。尽管这段音频从一开始就显得很可疑，但还是 在社交媒 体上被数千人转发，其中包括斯洛伐克反对党的 一名前国会议员。由于该音频存在声音不一致、措辞别扭、 语句节奏可疑等异常现象，核查人员很快对录音的真实性提 出质疑。然而，斯洛伐克的选举法要求媒体和政界人士在选 举前的 48 小时保持沉默，避免发布与选举有关的公告，阻 碍了纠正性信息的广泛传播。[29]这段伪造音频还利用了 M eta 的媒体操纵对策的缺陷，该对策明确规定只处理完全伪造 的视频，而不处理音频。尽管核查人员最终在 Meta 上为该音频贴上伪造标签，但由于不同平台审核标准不同，这段音 频仍在碎片化信息空间广泛传播。这种最后一刻出现的丑闻， 对于一些国家而言难以应对，因为这些国家限制媒体在选举 前夕讨论与选举相关的内容，限制时长通常为 24 小时左右， 有的可能长达三天，这显然会为揭穿网上疯传的虚假内容带 来困难。 再如，声称某些真实信息是人工智能生成的从而逃避选 民问责，尤其是针对某些可能影响政治竞选的真实丑闻。这 个操作在阿根廷 2023 年总统选举中起到意想不到的作用。 在第一轮投票前几天，网上开始广泛流传丑闻录音。据称， 这些录音中时任总统候选人帕特里夏·布尔里奇（Patricia Bullrich）的经济部长人选卡洛斯·梅尔科尼安（Carlos Mel conian）对女性恶语相向，并以政府职位换取性好处。这一 事件被称为“梅尔科尼门”。事发后，布尔里奇和她的政党 迅速为梅尔科尼安辩护，称录音是捏造的，可能是用“语音 和人工智能”篡改或生成的。她还质疑音频片段的来源，并 攻击分享泄露音频的记者，指责他过去有不道德行为，并将 篡改的音频作为支持现任者的抹黑活动的一部分。起初，梅 尔科尼安选择对音频泄露保持沉默。不过，在随后的采访中， 他并没有明确否认录音的真实性，而是说：“即便真是我说 的，这又能说明什么呢？什么都没有。”至于这些音频片段 是否真的是人工智能生成的深度伪造，尚无定论。不过，这一事件凸显出，即使某些信息可能是人工智能生成的，它也 能以意想不到的方式塑造选举竞争的轮廓。因为存在使人易 信的深度伪造可能性，在未来，政客们将能够合理地将真实 的丑闻斥之为捏造内容，即所谓的 “骗子红利”。这种情况 在美国已经出现，例如前总统唐纳德·特朗普的一段真实旧 片段已经改头换面，成为人工智能生成的内容。有证据表明， 这种策略对政客们很有效。最近的一项调查实验发现，把真 实的丑闻标榜为“错误信息”会让选民更倾向于支持受牵连 的政客。因此，生成式人工智能可能会在根本不使用它的地 方产生最有害的影响。 [1] http://www.yingyushijie.com/shop/source/detail/id/250 5.html. [2] https://www.euronews.com/next/2023/05/12/ai-co