AI Security

课程简介

课程内容包括：1. 人工智能安全概览——流行的人工智能模型的基本原理，安全分析的原则，人工智能的安全性以及人工智能在安全中的应用。2. 人工智能模型训练中的攻击——数据污染攻击，计算机视觉中的后门攻击，网络分析和自然语言处理中的攻击。3. 部署中的人工智能模型漏洞——规避攻击，成员推理攻击，模型窃取攻击，越狱攻击。4. 常见的防御策略——对抗训练，攻击检测，数据净化，认证鲁棒性。5. 人工智能在安全中的应用——基于人工智能的恶意软件检测系统，网络入侵检测系统，鲁棒推荐系统。

学习目标

1. 说明人工智能安全的核心概念和原则； 2. 识别和分析广泛使用的各种人工智能模型的安全威胁； 3. 理解并应用标准防御机制以增强流行的人工智能模型的安全性； 4. 掌握分析和设计基于人工智能的系统以应对常见的网络安全挑战； 5. 培养实施攻击和防御策略的实践技能，以构建解决典型网络安全问题的安全人工智能系统。

先修要求

互斥科目：COMP5577 人工智能安全

教学模式

讲授、辅导、学生报告、工作坊和课程项目相结合的教学模式；基础原理在讲授/辅导中涵盖，实践方面在工作坊/项目中进行；学生研究选定的主题并展示研究成果；课程项目将理论与实践相结合。