二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 与数据要素成为新质生产力的典型代表。[1]从 GPT-4o 到 SORA，AGI（通用人工智能）的曙光显现，2024 年或将成 为 AGI 元年。 同时，技术嵌入政治文化和生活是一种历史必然。西方 国家对人工智能与安全问题的极端重视，始于 2016 年美国 总统大选和英国脱欧两只黑天鹅。在此之前，美西方国家凭 借硬实力优势和对全球舆论的强大掌控能力在世界各地进 行渗透，形成了一套干涉他国内政和渗透颠覆的手段。然而， 布鲁金斯学会发布报告《人工智能改变世界》指出，人工智 能将严重威胁国家安全。西方政要甚至发出人工智能将干扰2024 年美国总统大选的担忧。 可以预见，伴随 ChatGPT 快速迭代，人工智能向 AGI （通用人工智能）快速演进，人工智能发展和应用正在加快 速度，其带来的不仅是发展机遇，风险挑战也是如影随形。 2021 年 11 月，中央中央政治局召开会议，审议《国家安全 战略（2021－2025

中优质单词总数的 36.5T 个单词，远快于 人类生成文本的速度。第二种是利用多模态和迁移学习，超 越文本数据从其他领域获取数据，比如视频、图像、金融市 场数据或科学数据库。[1 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （五） ] 不过，这并非是解决问题的良策。如果网上大部分文本都是 AI 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （六） 二、生成式 AI 的伴生风险 5.人机能力非对称导致“自主欺骗”，会有目的欺骗人 类甚至主动欺诈和选举篡改。2023 年，OpenAI 提出超级对 齐（superalignment）[1]概念，即当超级智能拥有比人类更 丰富的世界知识，比人类更聪明时，人类作为弱监督者如何 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、 腾讯微信研究人员针对“AGI 是否会在人类未知的地方欺骗 人类”问题开展实验。[2]实验结果发现，在不同冲突设定 下，“弱至强欺骗”现象存在，即 strong model（人工智能） 在 weak model（人类）的知道的知识区域表现得好，但是在 weak model（人类）未知的地方表现出不对齐的行为。而且， 欺骗程度随着 weak model（人类）和 strong

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （二） 二、生成式 AI 的伴生风险 ChatGPT 等生成式 AI 具有强大的自然语言处理能力， 展现出惊人的推理能力，但人们对其内在运行机理尚不清晰， 可解释性的难度很大，并存在一些技术缺陷，这些问题能否 解决对控制并限制人工智能的负面影响至关重要。需要看到， ChatGPT 等在短时间积聚起庞大活跃的全球用户群体，正给

应用场景多元化探索，初现雏形 企业拥抱AI持续加速，理性思考投入产出比 AGI道阻且长，技术能力持续提升，加速产业落地3 激发科技与创新活力 趋势1：self-play RL范式开启，大模型技术 军备赛进入复杂推理阶段 由OpenAI发布的GPT3作为序幕，大语言模型理解和生成能力、通用和泛化能力提升等， 引爆了对于AGI发展的高预期，大量大模型涌现，开源模型与闭源模型并驾齐驱，国内 大模型也 人工智能与AGI发展阶段划分 •交互革命 •人机交互方式：GUI��� DUI/HUI •Prompt工程价值凸显 •知识革命 •语言是知识的载体，未 来模型人人可训、人人 可用，即个人知识能力 将得以复制和扩展 •思维革命 •AI具备独立思考与逻辑 判断的能力 •进一步延展，具身智能 连接物理世界，硅基生 命与碳基生 AGI 0.1 AGI 1.0 AGI 2.0 通过易观分析AI开发者调研 激发科技与创新活力 总结：AGI道阻且长，技术能力持 续提升，加速产业落地 AGI 需具备类似人类的通用认知能力，涵盖学习推理、语言理解与交互、复杂规划与决 策等多方面能力。这就意味着朝向AGI进化的基础技术，无论是模型架的创新，还是模 型自主决策能力的训练与提升，都需要长周期的摸索与研究。 同时，AGI的发展也面临诸多挑战，这包括：  计算资源限制 AGI 基础技术研发对算力要求极高

进⾏训练的系统。职位描述指出 ，OpenAI 的机器⼈团队“专注于解锁通⽤机器⼈技术， 并在动态的现实环境中推动AGI级智能”。—位消息⼈⼠透露，该公司正在训练能够与 物理世界交互的⼈⼯智能算法，这可能会使机器⼈具有导航和执⾏任务的能⼒。该公司 重新开始的开发⼯作可能表明，它认为开发通⽤机器⼈技术需要推动在动态的现实环境 中运⾏的AGI级智能。《连线》 Alphabet加⼊市值3万亿美元俱乐部，股价⾃4⽉低点以来飙升70%。Alphabet已加⼊市

线索，但“L1-L5阶段”更为贴近该线索，强调AI在逐步减少人类干预的过 程中实现完全自主，聚焦自动化发展的渐进演变。相较之下，Altman的AGI五阶段更具实践导向。 AI自动化L1-L5：渐进提升 全能自理 对比维度 Sam Altman的AGI五阶段 AI自动化L1-L5 异同点 辅助性阶段 阶段1：狭义AI，AI在特定任务中提供 辅助。 L1：辅助自动化，AI简化流程，提供 工具支持。 容但需人类设定条件。 均强调AI在逐步减少人为干预的过程 中具备部分自主能力。 高级自主阶段 阶段4：通用AGI，AI具备高度自主性， 解决广泛任务。 L4：高级自动化，AI独立创作，有一 定创新能力。 都体现了AI的自主性，但Altman更关 注形成可落地的应用节点。 完全自主阶段 阶段5：超级AGI，AI超越人类，具备 自我反思与创新能力。 L5：完全自动化，AI超越人类水平， 具备自我反思与创新能力。 集成了全息显示技术和个性化AI助手，与眼镜配套的是一款革命性神经腕 带，能够解读用户的脑电波。 Orion眼镜 Meta 雷朋眼镜AIGC与元宇宙：虚拟学府 元筑梦想具身概念逐步得到验证，通用人工智能AGI开始启程。 • 可达性：基本要素可测量。 • 可检验性：可用完成任务检验。 • 可解释性：可通过具身学习推断概念。 AIGC与具身智能：模型助推 验证功能 AI 计算机 视觉 自然语 言处理

Pro 2模型，成为唯⼀⼀个获得独⽴基准分析提 供商Artificial Analysis评选的韩国法学硕⼠（LLM）前沿“前沿模型”称号的模型。 Upstage的成就使韩国重返全球通⽤⼈⼯智能（AGI）的竞争之列。根据Artificial Analysis的数据，Solar Pro 2在⼀系列基准测试中的综合得分⾼于Anthropic的Claude 3.7 Sonnet Thinking、DeepSeek的V3和Open

于智能化、协同化 与低门槛化。AIGC 从辅助工具逐步演化为具备自主任务执行能力的“开发伙伴”，推动编程 范式向人机共创转型。 比较有代表性的产品如 Auto GPT、Agent、Baby AGI，都是基于 GPT-4 语言模型的开 源应用程序，其核心特征是用户输入一个目标后，可自主执行任务、递归开发和调试代码。通 过 AIGC 的赋能，用户可以利用它们创建自主的 AI 代理，甚至建立网站。Anysphere 与人类协同的工作模式将成为主流， 催生出大量新职业与复合型人才需求，驱动社会组织形态逐步适配智能协同的新范式。 从中长期发展趋势来看，5‒10 年内，AI 的技术边界将进一步延伸至通用人工智能（AGI）、 脑机接口、量子计算与 AIGC 深度融合等前沿领域。未来的 AI 不仅具备跨模态、跨领域的自主 学习与推理能力，还将实现与人类感知与意识的深层互联，重构知识体系、社会结构与认知边界。 在这一进程中，AIGC