AI换脸成黄谣利器，女孩发声维权揭开科技阴暗面

微信扫码，打开到小程序

AI 换脸成黄谣利器，女孩发声维权揭开科技阴暗面 据凤凰周刊报道，一位名叫欧阳潇潇的 21 岁女孩，在 河北从事医疗相关工作，闲暇时做模特兼职，也是社交媒体 上的写真博主。她的照片被不法分子盗用，并通过 AI 换脸技 术生成色情图像，随后这些图像在 Telegram 等平台上被广 泛传播，伴随着侮辱性话语，对她的名誉和心理造成了严重 伤害。欧阳潇潇得知此事后，没有选择沉默，而是积极寻求 法律帮助，最终使加害者李勇平受到了行政拘留 10 天的处 罚。然而，这仅仅是维权路上的一个开始，行政拘留并未彻 底遏制加害者的恶劣行径。此事件揭示了部分不法分子滥用 AI 技术，肆意践踏女性权益，从事违法犯罪活动的乱象，引 起了社会各界的高度关注。 传播情况 趋势图 数据显示，12 月 3 日 9 时，“凤凰周刊”发布相关信息 后舆情有少量传播。整体上看，相关舆情传播量较少，主要 在微博平台传播，由@凤凰周刊主持的微博话题#被 AI 换脸造黄谣的女孩公开发声维权#带动传播，阅读量 373.3 万。 平台占比图 从各平台的舆情信息数量来看，微博是本次舆情发酵的 主要阵地，占比为 92.24%；APP、网页、头条号等平台数据 量较小，具体占比情况见上图。 网民观点 一是众多网友对潇潇表示同情和支持，认为她能够勇敢 地站出来发声维权，是非常值得称赞的。她的勇气不仅为自 己争取了合法权益，也为其他可能遭受类似侵害的人树立了 榜样，鼓励更多的受害者勇敢地面对网络暴力和侵权行为， 不再选择沉默。 二是网友们纷纷对李勇平的行为表示强烈谴责，认为其 利用 AI 技术合成淫秽图片并传播的行为极其恶劣，严重侵犯 了潇潇的隐私权和名誉权，给潇潇的个人生活和职业生涯都带来了巨大的伤害。 三是部分网友认为警方对李勇平行政拘留 10 天的处罚 力度不够，他们认为，此类利用 AI 技术进行的网络犯罪行为 具有较强的隐蔽性和危害性，应该进一步完善相关法律法规， 加大对这类犯罪行为的惩处力度。 四是网友们认识到 AI 技术具有巨大的潜力和价值，但同 时也担忧其可能被滥用，呼吁大家在日常生活中要更加注意 保护自己的隐私信息。也希望相关部门加强对网络环境的监 管力度，严厉打击利用 AI 技术进行的各种违法犯罪行为。 研判分析 近年来，不法分子滥用 AI 换脸技术的事件层出不穷。如 2022 年 8 月杭州的虞某利用“AI 换脸”软件生成大量淫秽 视频进行传播，其中不乏女明星等公众人物；2023 年，国内 发生多起 AI 深度伪造诈骗案件，以及多起利用 AI 技术造黄 谣、传播不良信息的恶性事件。此类事件给受害者和社会造 成不良影响。一方面，此类事件会给受害者带来毁灭性的打 击。她们的名誉瞬间蒙羞，在社交圈和职业领域遭受异样眼 光与质疑，导致人际关系疏离。心理上，受害者长期承受巨 大精神压力，极易患上抑郁症、焦虑症等心理疾病。隐私的 泄露更使她们暴露在骚扰与威胁之下，生活陷入无尽的惶恐， 个人生活秩序被彻底打乱。另一方面，这类事件严重侵蚀着 公序良俗，引发了公众对网络安全的深度忧虑。同时，此类事件的频发传递出不良的价值导向，加剧了社会风气的恶化。 而且，当女性成为主要受害者时，性别不平等问题被进一步 放大。 舆情建议 一是相关部门应加大对网络环境的监管力度，建立健全 针对 AI 技术应用的监管机制，严厉打击利用 AI 换脸技术进 行的各种违法犯罪行为，从源头上遏制此类侵权信息的传播。 二是网络平台应加强对用户发布内容的审核和管理，利 用技术手段提高对 AI 生成内容的识别能力，及时发现和处理 侵权信息和违法内容。 三是加快完善相关法律法规，细化对于各类侵权行为和 犯罪行为的界定和处罚标准，为受害者提供更有力的法律保 障，确保执法部门在处理此类案件时有法可依，能够对不法 分子给予应有的惩处。 四是通过各种渠道，加强对公众的网络安全教育和 AI 技术风险提示，提高人们的网络安全意识和防范能力，让大 家了解如何在网络环境中更好地保护自己的个人信息和隐 私，避免成为网络犯罪的受害者。