Ermon

CSCI 699：概率和生成模型

目录描述概率和生成性模型，包括近似推理算法（MCMC，变异推理），深入生成模型（自动回应，得分匹配，扩散和基于流程的模型）以及基于模型的顺序决策。课程描述本课程的重点是概率的基本原理及其在现代机器学习和生成建模中的核心作用。随着概率越来越多地推动AI的进步，本课程将探索其在一系列主题中的应用程序。从近似推理算法到通过大规模自学学习的生成模型，再到基于概率模型的决策方法，您将对这些方法如何塑造当代AI研究有了更深入的了解。通过本课程学习目标，将向您介绍概率机器学习中的核心主题，包括概率图形模型和近似推理算法（例如MCMC和变异推理），深层生成模型，例如自动化，自动性，得分匹配，基于基于流程的方法和基于概率的模型，以及概率的模型和方法，并均基于概率和方法（避孕方法）（均匀的模型）（均匀的方法）（均匀的方法）（均匀的方法）（均匀的方法）（均匀的方法）（均匀的方法）（均匀的方法）（均匀的方法（基于信息的实验设计）。在本课程结束时，您将熟悉尖端研究和该领域的历史基础。建议准备本课程是为当前从事研究或希望从事研究的学生设计的，以概率的机器学习或深层生成模型进行研究。学生有望对阅读和介绍现代机器学习会议论文感到满意。熟悉机器学习（在CSCI 567级别），算法（在CSCI 570的级别上）和概率（在数学505a的级别）将是有益的。课程注释等级类型：字母等级。演讲幻灯片和其他课堂信息的副本将发布在课程网站上。技术水平和硬件/软件所需的本课程没有特定的软件要求。该课程将定期计划使用部分讲座进行课堂（实践）的“实验室会议”，以提供更多的动手经验，以我们将学习的理论概念。这些会话将涉及运行代码并使用概率和生成模型的实现。因此，鼓励学生（尽管不需要）学生将笔记本电脑带到每个班级，以便他们可以跟随并参加这些实践实验室会议。这些会议也将有助于实施技能，这些技能可以在整个学期中运行的课程项目中使用。此外，请参阅有关USC计算中心笔记本电脑借贷程序（链接）的以下信息。所需的读数和补充材料在此类中没有必需的读数，补充材料或教科书。可选的读数和补充材料以下资源对本类涵盖的许多主题很有用：1。凯文·墨菲（Kevin Murphy），“机器学习：概率观点”，2012年（链接）。2。凯文·墨菲（Kevin Murphy），“概率机器学习：高级主题”，2023年（链接）。3。4。5。Chris Bishop，“模式识别和机器学习”，2006年（链接）。克里斯·毕晓普（Chris Bishop），“深度学习 - 基础和概念”，2024年（链接）。Stefano Ermon，深层生成模型，课程注释（链接）。