恶意命令等。大模型一旦被恶意攻击，其关联业务面临整体失效风险，威 胁以其为基础构建的应用生态，尤其是在政治、军事、金融、 医疗等关键领域，恶意攻击会带来严重的后果。2024 年 2 月， 匿名苏丹组织针对 ChatGPT 发起 DDoS 攻击，还向 OpenAI 施压要求撤换研究平台负责人 Tal Broda，因其持有不利于巴 勒斯坦的立场。 对抗性攻击是针对机器学习模型的攻击方式，攻击者通