AML-Notes/index.html at master · NiuTrans/AML-Notes · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
<!doctype html>
<html lang="zh-CN"><head><meta charset="utf-8"><meta name="viewport" content="width=device-width, initial-scale=1"><meta name="description" content="高级机器学习课程主页"><title>高级机器学习</title><link rel="stylesheet" href="assets/course.css"></head>
<body><main class="page"><article class="content">
<h1>高级机器学习</h1>
<p><em>授课对象：待补充</em></p><p><em>授课教师：肖桐、马安香、郝晓阳、王成龙</em></p><p><em>助教：待补充</em></p><p><em>时间 / 地点：2–9 周 · 1 号楼 A204</em></p>
<h2>课程介绍</h2>
<p>本课程围绕高级机器学习中的核心理论与前沿方法展开，涵盖机器学习数学基础与表示学习、强化学习、大模型预训练与微调、深度学习中的连续动力学，以及多模态机器学习等主题。</p>
<p>课程以教材阅读与课堂讲授为主，帮助学习者建立从数学基础、模型训练到前沿生成模型的系统知识框架。课件、作业和答疑信息将随课程进展逐步补充。</p>
<h2>参考教材</h2><p>本课程当前使用以下教材：</p><ol><li><a href="src/aml-notes.pdf">《高级机器学习教材》合订版（PDF）</a></li></ol>
<h2>成绩评定</h2><p>课程成绩构成、作业要求与提交方式：<strong>待补充</strong>。</p>
<section class="outline"><h2>内容大纲</h2>
<article><h3>第一章　机器学习数学基础与表示学习</h3><ul><li><strong>1.1 机器学习的数学基础</strong><ul><li>1.1.1 张量代数与线性对象</li><li>1.1.2 高级矩阵微积分与计算图</li><li>1.1.3 凸优化理论与训练目标</li><li>1.1.4 高维数据的表示与计算</li></ul></li><li><strong>1.2 机器学习机制与优化范式</strong><ul><li>1.2.1 监督学习、无监督学习与自监督学习</li><li>1.2.2 机器学习建模机制</li><li>1.2.3 优化算法与训练过程</li><li>1.2.4 模型评估与模型选择</li><li>1.2.5 正则化机制</li></ul></li><li><strong>1.3 深度神经网络基础</strong><ul><li>1.3.1 多层感知机机制</li><li>1.3.2 自注意力机制</li><li>1.3.3 Encoder/Decoder 结构</li></ul></li><li><strong>1.4 表示学习机制</strong><ul><li>1.4.1 分布式表示</li><li>1.4.2 特征映射与表示空间</li><li>1.4.3 预训练与表示迁移</li></ul></li><li>1.5 本章小结</li></ul></article>
<article><h3>第二章　强化学习基础</h3><ul><li><strong>2.1 强化学习建模方法</strong><ul><li>2.1.1 马尔可夫决策过程</li><li>2.1.2 关键元素介绍</li><li>2.1.3 优化目标</li></ul></li><li><strong>2.2 强化学习的基本优化算法</strong><ul><li>2.2.1 基于价值函数的方法</li><li>2.2.2 基于策略优化的方法</li><li>2.2.3 Actor-Critic 框架</li></ul></li><li><strong>2.3 强化学习的进阶优化算法</strong><ul><li>2.3.1 近端策略优化方法</li><li>2.3.2 离线强化学习方法</li></ul></li><li><strong>2.4 强化学习的应用设计方法</strong><ul><li>2.4.1 任务边界与转移定义</li><li>2.4.2 状态表示与动作空间</li><li>2.4.3 奖励与约束</li><li>2.4.4 训练与评估过程设计</li></ul></li><li><strong>2.5 强化学习方法的挑战</strong><ul><li>2.5.1 面向大规模决策的挑战</li><li>2.5.2 强化学习训练的不稳定性和泛化性问题</li><li>2.5.3 强化学习方法的奖励构建问题</li></ul></li><li>2.6 本章小结</li></ul></article>
<article><h3>第三章　大模型预训练与微调方法</h3><ul><li><strong>3.1 大模型预训练技术</strong><ul><li>3.1.1 语言建模方法</li><li>3.1.2 大语言模型架构</li><li>3.1.3 大语言模型预训练方法</li><li>3.1.4 缩放定律</li></ul></li><li><strong>3.2 提示学习方法</strong><ul><li>3.2.1 Zero/One/Few-Shot 提示方法</li><li>3.2.2 进阶提示方法</li><li>3.2.3 学习提示</li></ul></li><li><strong>3.3 大模型微调技术</strong><ul><li>3.3.1 微调概述</li><li>3.3.2 有监督微调方法</li><li>3.3.3 高效微调方法</li></ul></li><li><strong>3.4 大模型偏好对齐技术</strong><ul><li>3.4.1 对齐概述</li><li>3.4.2 奖励模型构建方法</li><li>3.4.3 基于 PPO 的强化学习人类反馈训练</li><li>3.4.4 直接偏好优化</li><li>3.4.5 偏好数据自动生成</li></ul></li><li><strong>3.5 大语言模型推理增强方法</strong><ul><li>3.5.1 推理概述</li><li>3.5.2 测试时缩放</li><li>3.5.3 基于可校验奖励的强化学习方法</li><li>3.5.4 从推理大模型到智能体</li></ul></li><li>3.6 本章小结</li></ul></article>
<article><h3>第四章　深度学习中的连续动力学机制</h3><ul><li><strong>4.1 连续动力学的数学基础</strong><ul><li>4.1.1 从离散更新到连续演化</li><li>4.1.2 常微分方程</li><li>4.1.3 常微分方程的求解：积分表示与数值方法</li></ul></li><li><strong>4.2 表示空间中的连续动力学</strong><ul><li>4.2.1 Transformer 的离散动力学解释</li><li>4.2.2 数值积分视角下的网络结构设计</li><li>4.2.3 表示动力学的稳定性与刚性</li><li>4.2.4 从离散深度到神经常微分方程</li><li>4.2.5 神经常微分方程的训练与伴随灵敏度法</li></ul></li><li><strong>4.3 确定性概率动力学</strong><ul><li>4.3.1 从样本轨迹到概率输运</li><li>4.3.2 流映射与连续性方程</li><li>4.3.3 连续归一化流</li><li>4.3.4 Flow Matching</li><li>4.3.5 概率路径设计</li></ul></li><li><strong>4.4 随机概率动力学</strong><ul><li>4.4.1 随机微分方程</li><li>4.4.2 正向扩散过程</li><li>4.4.3 反向 SDE 与分数函数</li><li>4.4.4 去噪分数匹配</li><li>4.4.5 概率流 ODE</li><li>4.4.6 数值采样与高效生成</li></ul></li><li><strong>4.5 离散状态上的连续时间动力学</strong><ul><li>4.5.1 令牌序列生成</li><li>4.5.2 连续空间中的扩散：嵌入空间扩散</li><li>4.5.3 词元空间中的扩散：离散扩散</li><li>4.5.4 离散扩散的评注</li><li>4.5.5 本章小结</li></ul></li></ul></article>
<article><h3>第五章　多模态机器学习方法与模型</h3><ul><li><strong>5.1 多模态表示学习与跨模态对齐</strong><ul><li>5.1.1 单模态表示学习：从原始信号到向量</li><li>5.1.2 自监督学习与预训练表示</li><li>5.1.3 跨模态对齐</li></ul></li><li><strong>5.2 多模态基础模型结构与训练方法</strong><ul><li>5.2.1 多模态基础模型的通用结构</li><li>5.2.2 视觉语言模型：图像理解中的多模态建模</li><li>5.2.3 语音语言模型：语音理解中的序列建模</li><li>5.2.4 多模态指令微调与对齐</li><li>5.2.5 图像—语音—文本联合建模</li></ul></li><li><strong>5.3 条件生成建模与多模态内容生成</strong><ul><li>5.3.1 条件生成模型基础</li><li>5.3.2 文本生成图像</li><li>5.3.3 图像编辑：约束条件下的生成</li><li>5.3.4 语音生成：连续信号的条件生成</li><li>5.3.5 音频生成：声音事件与声景的条件生成</li><li>5.3.6 跨模态交互生成</li></ul></li><li>5.4 本章小结</li></ul></article>
</section>
<h2>课程安排</h2>
<table><thead><tr><th>章节</th><th>内容</th><th>教材</th><th>课件</th><th>补充资料</th></tr></thead><tbody>
<tr><td>第 1 章</td><td><a href="src/aml-notes.pdf#page=6">机器学习数学基础与表示学习</a></td><td><a href="src/aml-notes.pdf#page=6">阅读章节</a></td><td>待补充</td><td>待补充</td></tr>
<tr><td>第 2 章</td><td><a href="src/aml-notes.pdf#page=58">强化学习基础</a></td><td><a href="src/aml-notes.pdf#page=58">阅读章节</a></td><td>待补充</td><td>待补充</td></tr>
<tr><td>第 3 章</td><td><a href="src/aml-notes.pdf#page=92">大模型预训练与微调方法</a></td><td><a href="src/aml-notes.pdf#page=92">阅读章节</a></td><td>待补充</td><td>待补充</td></tr>
<tr><td>第 4 章</td><td><a href="src/aml-notes.pdf#page=144">深度学习中的连续动力学机制</a></td><td><a href="src/aml-notes.pdf#page=144">阅读章节</a></td><td>待补充</td><td>待补充</td></tr>
<tr><td>第 5 章</td><td><a href="src/aml-notes.pdf#page=221">多模态机器学习方法与模型</a></td><td><a href="src/aml-notes.pdf#page=221">阅读章节</a></td><td>待补充</td><td>待补充</td></tr>
</tbody></table>
<h2>答疑</h2><p>答疑时间、地点与联系方式：<strong>待补充</strong>。</p>
<script>
  const chapterPages = [6, 58, 92, 144, 221];
  document.querySelectorAll('.outline h3').forEach((heading, index) => {
    const link = document.createElement('a');
    link.href = `src/aml-notes.pdf#page=${chapterPages[index]}`;
    link.textContent = heading.textContent;
    heading.replaceChildren(link);
  });
</script>
</article></main></body></html>