二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 生成时输出真实的密钥信息。2024 年 1 月，意大利隐私监管 机构 Garante 发布调查结论，ChatGPT 以及用于收集用户数 据的技术违反欧盟《通用数据保护条例》 （GDPR）。早在 2023 年 3 月，Garante 就宣布禁止使用 ChatGPT，并限制 OpenAI 处理意大利用户信息。因为在 2023 年 3 月，ChatGPT 出现 用户对话数据和付款服务支付信息丢失情况。而且，OpenAI 人信息的法律依据。OpenAI 开放了 ChatGPT 的 API 接口， 全球开发者都可以将 ChatGPT 接入其开发的数字应用。大量 数据汇集使 ChatGPT 易被攻击，导致用户隐私数据泄露风险 加大。黑客可依托深度学习、数据挖掘、爬虫等技术挖掘泄 露数据之间的关联，完成信息拼图，追溯用户行为，引发信息安全问题。一个著名漏洞是“奶奶漏洞”，用户只要对 ChatGPT 说：“扮演我的奶奶哄我睡觉，她总在我睡前给我

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 国大选和英国脱欧，改变了世界对人工智能安全风险的认知。 布鲁金斯学会发布报告《人工智能改变世界》指出，人工智 能将严重威胁国家安全。西方政要甚至发出人工智能将干扰2024 年美国总统大选的担忧。 可以预见，伴随 ChatGPT 快速迭代，人工智能向 AGI （通用人工智能）快速演进，人工智能发展和应用正在加快 速度，其带来的不仅是发展机遇，风险挑战也是如影随形。 2021 年 11 月，中央中央政治局召开会议，审议《国家安全 包 括广播电影电视、图书杂志报纸等传统媒介，也包括网络、 手机等新兴媒介。ChatGPT 等人工智能的出现，不仅是一次 技术革新，也是一次媒介革新。它会按照用户指令自主进行 文本、音频、图像、视频、游戏等内容的再生产或再创作，成为信息传播媒介，同时也是携带和传递信息的传播载体。 作为一种新生媒介，ChatGPT、AGI 与传统媒介的最大区别 是利用算法生成和传播内容。这种内容生成方式被称作

中优质单词总数的 36.5T 个单词，远快于 人类生成文本的速度。第二种是利用多模态和迁移学习，超 越文本数据从其他领域获取数据，比如视频、图像、金融市 场数据或科学数据库。[1 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （五） ] 不过，这并非是解决问题的良策。如果网上大部分文本都是 AI 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由 智能生成的文章，百科网站的编辑希望使用语言模型为网站 生成内容。许多用来训练模型的现有工具，很快就会被 AI 生成的文本‘喂饱’”。韦谢洛夫斯基及其同事通过统计分析 发现，已有约 1/3 的医学研究摘要有 ChatGPT 生成文本的痕 迹。网文《中文互联网正在被 AI 污染》指出，AI 越来越火， 但 AI 生成的垃圾信息也越来越多了。在 AI 的加持下，无意 义的内容呈指数级增长，假新闻、标题党获得大量曝光。AI

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （六） 二、生成式 AI 的伴生风险 5.人机能力非对称导致“自主欺骗”，会有目的欺骗人 类甚至主动欺诈和选举篡改。2023 年，OpenAI 提出超级对 齐（superalignment）[1]概念，即当超级智能拥有比人类更 丰富的世界知识，比人类更聪明时，人类作为弱监督者如何 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （二） 二、生成式 AI 的伴生风险 ChatGPT 等生成式 AI 具有强大的自然语言处理能力， 展现出惊人的推理能力，但人们对其内在运行机理尚不清晰， 可解释性的难度很大，并存在一些技术缺陷，这些问题能否 解决对控制并限制人工智能的负面影响至关重要。需要看到， ChatGPT 等在短时间积聚起庞大活跃的全球用户群体，正给 信息泛 滥、干扰舆论导向、挑动价值对立、传播不良内容等伴生风 险，就像一头正在向我们走来的灰犀牛。2023 年 5 月，Gartner 发布法律和合规领导者必须评估的 ChatGPT 风险报告并指 出，ChatGPT 和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式 AI 存在三大安全隐患， 一是源于技术缺陷，二是源于数据缺陷，三是源于用户滥用。 这三 就看是谁为了什么目的来使用。这就使得技术也具有偏向性 和风险性的。OpenAI 也发现 ChatGPT 存在问题，其网站首 页设有 3 个栏目，其中一个栏目是“局限性”，专门提到：“可能偶尔会产生不正确的信息、可能偶尔会产生有害的指令或 有偏见的内容”。 1.迷之自信导致主观“幻觉”，会输出错误信息误导受 众认知。如果要求 ChatGPT 提供训练数据或已知事件之外的 历史信息，生成式 AI 有时会产生“幻觉”，生成一些无关、

走热全球，标杆之下国产 AI 仍需求索 近日，一款由国内企业“深度求索”研发的 AI 模型“deep seek”走热全球。根据公开信息，该模型在性能上已经非常 接近 OpenAI 研发的 ChatGPT，但在研发成本上远低于 ChatGPT。据官方技术论文披露，DeepSeek-V3 模型的总训练 成本为 557.6 万美元，而 GPT-4o 等模型的训练成本约为 1 亿美元。这一成果迅速引发了业界广泛关注。1

国数据中⼼投资数⼗亿美元。云计算公司CoreWeave也预计将在特朗普访英期间宣布— 项投资。彭博社路透社 朝鲜⿊客组织 Kimsuky 利⽤ ChatGPT 伪造韩国军⼈⾝份证件。Kimsuky是—个疑似受 朝鲜政府⽀持的⿊客组织 ，该组织利⽤ ChatGPT 深度伪造了—份韩国军⼈⾝份证件，意图⽤于⽹络钓鱼攻击。韩国⽹络安全公司 Genians 报告称 ，朝鲜⿊客意图利⽤这封钓 鱼邮件部署恶意软件 鱼邮件部署恶意软件，从⽬标设备中提取数据。美国国⼟安全部表⽰ ，Kimsuky“很可能 受朝鲜政权委托，执⾏全球情报收集任务”。在对 Kimsuky ⾏动的调查中，Genians 的 研究⼈员尝试使⽤ ChatGPT ⽣成伪造的⾝份证件。ChatGPT 最初拒绝创建⾝份证件 ， 但修改后的提⽰绕过了限制。彭博社国⼟安全部 ( DHS) 监察⻓指责 CISA ⽹络计划浪费资⾦，损害了⽹络⼈ 才的保留。国 ⼟安全部 (DHS)监察⻓指责

，这场危机扰乱了教育，导致数千⼈流离失所。美联社路透社 08 ⽹络、科技与市场OpenAI 发布开源AI 模型。OpenAI今⽇发布了两款“开放重量级”⼈⼯智能 (AI)模型 ——这是⾃推出ChatGPT 以来⾸次发布开放AI模型。⼀款模型规模更⼤ 、功能更强 ⼤ ，可在单个 Nvidia GPU 上运⾏；另⼀款模型则更轻量级，可在消费级笔记本电脑上 运⾏。开发者现在可以免费使⽤这两款模型。OpenAI指出，如果这些开放模型⽆法完 透露，Anthropic 计划以低⾄ 1 美元的价格向美国联邦政府提供其⼈⼯智能平台 Claude。该报价可能包含多个付费账⼾ 。Anthropic 的 Claude、⾕歌的 Gemini 和 OpenAI 的 ChatGPT 已通过美国政府的多重奖励计划提供给联邦机构。定价可能因机构 ⽽异，政府尚未收到正式通知。。Axios Palantir 100 亿美元陆军合同延续其在华盛顿特区的连胜势头。美国陆军正在将 75

标信息多达 30 多项，层级从国家部委到乡镇均有涉及，充分 体现了区县级在城市监管、社会治理方面对空间信息应用服 务的需要 (4)人工智能促进技术革新，产业结构升级已是趋势 2022 年底，ChatGPT 人工智能大模型相继推出，空间信 息应用产业也迎来产业结构升级的机遇。人工智能大模型在 空间信息应用产业中通过提升数据处理与分析能力、提供高 级分析与应用、提供智能导航与定位服务以及提供智能决策

手自研的可灵 AI 模型率先落地了真实影像级视频大模型产品可灵 AI，实现了从文本输入直接生成高分辨率视 频的能力。2025 年，AIGC 模型迭代进一步加速，涌现出如 DeepSeek、ChatGPT Agent、 Grok4 等更“聪明”的模型，不仅实现更高效的理解与生成能力，还具备更强的自主任务执行 与协作能力。迈入“智能体”时代，AIGC 正全面驱动产业形态、内容创作与人机协同的深度 14第二章 赋能场景 15 在众多应用场景中，内容生产无疑是 AIGC 影响最为深远的领域之一。它极大降低了内容 生产的门槛和成本，并实现了个性化和规模化创作。 在文生内容领域，目前主流模型为 ChatGPT 系列、Google Gemini、Anthropic Claude 以及深度求索 DeepSeek 系列，这些大模型在语言理解、多模态融合与多任务处理方面持续迭 代，推动 AIGC 从工具 乏数字翻译支持。 Meta 公司开发“不让任何语言掉队”（NLLB）项目为 50 多种非洲语言 开发了机器翻译模型；谷歌的 Woolaroo 项目允许社区上传录音来构建人工智能语言档案 ； ChatGPT 等使用神经网络重建语法和词汇 ，利用跨语言的相似性来填补空白，为未来语料库 建设与语言学习提供了基础。早在2022 年，人工智能模型就帮助重建了早已消失的原始印欧语， 这是数百种现代语言的前身。