Deep Learning

课程简介

本课程将涵盖以下主题： a) 深度学习的发展历史。 b) 深度神经网络的数学基础：线性代数、神经网络的通用性、各种损失函数。 c) 全连接神经网络。 d) 优化算法：反向传播、随机梯度下降及其变体。 e) 卷积神经网络：架构、数学理解及其应用。 f) 循环神经网络：架构、自动微分及其应用。 g) 生成模型：从统计学角度理解VAE、GAN、扩散模型及其应用。 h) 初步统计学习理论：偏差-方差权衡；VC维数；AUC评分。 i) 大型语言模型简介。

学习目标

本课程旨在为学生提供深度学习的数学基础和实践技能，深度学习是人工智能的核心子领域。课程将涵盖深度神经网络的数学基础、关键的深度神经网络架构和训练算法、计算工具以及实际应用，强调理论基础和动态环境中的问题解决技能。

先修要求

无。

教学模式

授课：介绍深度学习理论、算法推导及行业应用，重点在于数学基础和技术框架。 辅导：动手编程会和案例研究的小组讨论，使用实际数据集和仿真环境（例如，Pytorch）进行操作。