AI Security

课程简介

课程内容包括：1. 人工智能安全概览——流行的人工智能模型的基本原理、安全分析的原则、人工智能的安全性以及人工智能在安全中的应用。2. 人工智能模型训练中的攻击——计算机视觉、网络分析和自然语言处理中的数据投毒攻击和后门攻击。3. 部署中的人工智能模型漏洞——欺骗攻击、成员推理攻击、模型窃取攻击以及针对计算机视觉、网络分析和自然语言处理领域的破解攻击。4. 常见的防御策略——对抗训练、攻击检测、数据净化以及认证鲁棒性。5. 人工智能在安全中的应用——设计基于人工智能的系统以检测恶意软件、网络入侵检测和稳健推荐系统。

学习目标

1. 说明人工智能安全的核心概念和原则； 2. 识别并分析广泛使用的各种人工智能模型的安全威胁； 3. 理解并应用标准防御机制以增强流行的人工智能模型的安全性； 4. 掌握分析和设计基于人工智能的系统以应对常见的网络安全挑战； 5. 培养实施攻击和防御策略的实践技能，以构建解决典型网络安全问题的安全人工智能系统。

先修要求

互斥科目：课程：DSAI5210 人工智能安全

教学模式

讲座、辅导、学生报告、工作坊和课程项目相结合的教学模式；基础原理在讲座/辅导中讲解，实践方面在工作坊/项目中进行；学生研究选定的主题并展示研究成果；课程项目将理论与实践相结合。