Trustworthy AI Systems and Technologies

课程简介

1. 可信赖人工智能的基础：可信赖人工智能的原则，人工智能系统的安全性和公平性，可信赖人工智能的威胁如后门攻击、对抗攻击及其缓解，深度伪造，超逼真深度伪造与扩散模型，面部替换，音频深度伪造，人工智能伦理，信任侵蚀与操纵。 2. 生成内容的防御机制：基于CNN和LLM的检测器，水印和加密解决方案，区块链用于溯源（如视频认证器），以及通过频谱分析和语言模式检测虚假音频。法律与政策框架。 3. 隐私保护的人工智能：联邦学习，差分隐私和同态加密，全球法规如欧盟人工智能法案，执行与司法管辖的挑战。 4. 用于生物特征识别的信任安全：生物特征介绍，实用系统中生物特征的期望属性，不同生物特征模式的优缺点，行为生物特征，隐私问题与社会挑战。 5. 性能评估与应用：可信赖安全系统中的错误率和性能图，实际系统和应用的性能评估，欺骗攻击与检测。 6. 多模态系统：多模态系统相较于单模态系统在可信赖人工智能中的优势，多模态和评分归一化技术，特征、评分和排名级别的融合。

学习目标

1. 为学生提供可信赖人工智能系统和技术的基础知识。 2. 为学生提供广泛的技术知识，以建立对人工智能驱动系统的信任和安全。 3. 训练学生应用高级人工智能技术确保信任和保护当前技术环境中的安全。

先修要求

先修课程：DSAI5205 人工智能导论；或 DSAI5207 现代深度学习

教学模式

课程材料将以讲座、辅导和小组项目的形式进行讲授。学生将熟悉可信赖人工智能系统、生物特征数据处理、安全性和应用的基本概念和技术。