Learning Theory for AI

课程简介

本课程将涵盖以下关键主题： a) 人工智能的学习理论基础：动机、历史以及支撑现代人工智能应用的核心概念，从视觉模型到语言模型。 b) 监督学习与泛化：关键思想如经验风险最小化、偏差-方差权衡以及泛化边界，与训练稳健模型的相关性。 c) 模型复杂度与正则化：VC维、拉德马赫复杂度以及正则化技术，应用于控制现实系统中的过拟合。 d) 超越监督学习：对无监督学习和强化学习的理论洞察，与聚类和决策制定等应用相关。 e) 高级主题与局限性：主题包括PAC学习、一致收敛、算法稳定性以及理论空白，这些都突显了当前人工智能模型的局限性。本课程还将探讨理论深度学习的新兴研究方向。

学习目标

本课程旨在向学生介绍支撑现代人工智能（AI）系统的根本学习理论原则。课程涵盖核心数学概念、理论基础以及最新进展，使学生能够从严谨的角度理解、分析和评估学习算法。还将讨论AI模型设计和评估的实践意义。

先修要求

无

教学模式

课程讲授将介绍基本的理论概念、关键结果及其对人工智能的实践意义。在适当情况下将呈现数学证明，重点在于直觉和应用。 辅导课将通过问题集、课堂练习和讨论强化理论理解。精选阅读材料和案例分析将用于理论与实际人工智能应用之间的桥梁。