Bayesian Methods for Data Science

课程简介

预备知识 (2L+1T): 随机变量；点估计：矩估计、最大似然估计、最小二乘估计；区间估计；假设检验；回归模型：线性、逻辑回归。 贝叶斯推断基础 (6L+3T): 基本理论：先验、后验、贝叶斯公式；先验选择：共轭先验、非信息先验、客观先验；模型选择与诊断：交叉验证、贝叶斯因子、随机搜索变量选择、模型选择标准与拟合优度检验；分层模型。 统计中的贝叶斯建模与计算 (6L+3T): 后验计算方法：最大后验估计（MAP）、贝叶斯中心极限定理（CLT）、马尔可夫链蒙特卡洛（MCMC）、Metropolis-Hastings（MH）。 贝叶斯分类 (4L+2T): 贝叶斯分类器：贝叶斯分类规则、贝叶斯分类误差、平均风险；决策边界：最小距离分类器；朴素贝叶斯分类器。 贝叶斯网络 (4L+2T): 图结构：节点、弧（链）、有向无环图（DAG）；条件概率；马尔可夫性质；贝叶斯网络：概率传播、证据节点、诊断推理、预测推理；稀疏贝叶斯网络：概率论的链式法则、Pearl的网络构建算法、节点排序。 案例研究 (2L+1T): 编程语言或包：RStan/PyStan；其他相关语言或包：JAGS、PyMC3、BUGS、RNimble；案例研究。

学习目标

本课程旨在：(a) 介绍贝叶斯推断的基本原理，如何选择先验并计算后验。(b) 介绍一些有效的当前贝叶斯建模和计算方法。(c) 介绍一些传统的贝叶斯模型、贝叶斯分类和贝叶斯网络的基本概念。(d) 介绍RStan/PyStan及其与数据科学工作流（如rmarkdown、Jupyter notebook）的集成。(e) 通过行业对齐的示例（如测试、预测建模）和医疗、金融、科技领域的案例研究，展示传统贝叶斯推断的灵活性和实用性，并扩展到实际应用中的贝叶斯分类和贝叶斯网络。

先修要求

先修课程：DSAI1103 数据科学原理

教学模式

本课程主要通过讲授和辅导进行。讲授将介绍贝叶斯理论背景，辅导课将讨论实际问题，以说明理论如何在实践中应用。鼓励学生使用R/Python语言与RStan/PyStan和各种贝叶斯统计模型进行探索性分析，使用真实数据。