（一）数据安全风险
数据泄露：AI 模型的训练依赖大量的数据，这些数据中可能包含用户的敏感信息，如个人身份、医疗记录、财务数据等。一旦数据存储系统遭受攻击，数据泄露将给用户带来严重的损失。例如，2017 年 Equifax 数据泄露事件，黑客窃取了约 1.47 亿消费者的个人信息，其中就涉及到 AI 信用评估模型所使用的数据。
数据篡改：恶意攻击者可能会篡改 AI 训练数据，从而误导模型的训练结果，使模型做出错误的决策。例如，在自动驾驶汽车的训练数据中，修改某些路况信息或车辆行驶数据，可能导致自动驾驶模型在实际行驶中出现危险行为。
（二）模型安全风险
模型窃取：训练好的 AI 模型具有极高的商业价值，攻击者可能会通过各种手段窃取模型，从而获取其中蕴含的知识和算法。例如，通过逆向工程技术，从 AI 应用程序中提取模型参数和结构。
模型中毒攻击：攻击者在模型训练过程中注入恶意数据，使模型学习到错误的模式，导致模型在推理阶段出现偏差。这种攻击方式可能难以被检测到，因为中毒后的模型在表面上可能仍然能够正常运行，但输出结果却不可靠。
（三）应用安全风险
对抗攻击：攻击者通过精心设计的对抗样本，输入到 AI 模型中，使模型产生错误的分类或预测结果。例如，在图像识别系统中，对一张正常的猫的图片添加微小的扰动，可能会使模型将其误识别为狗。这种攻击方式对 AI 应用的安全性构成了严重威胁，尤其是在一些关键领域，如人脸识别门禁系统、医疗诊断系统等。
滥用风险：AI 技术也可能被不法分子滥用，用于恶意目的。例如，利用生成对抗网络（GAN）技术生成虚假的图像、视频或音频，用于诈骗、虚假信息传播等。
