国科大的模式识别与机器学习这门课在所有选修课里一直是个特殊的存在。每年雁栖湖校区的同学群里到了复习季总有人翻出2015到2019年的旧题四处求答案2021年和2023年的新题又被当作风向标反复讨论。我花了不少时间把这几年能找到的考题按知识点拆开重新归类越整理越觉得这门课的出题思路其实相当稳定考的不是你背了多少算法名字而是能不能从数学上把一个分类器讲清楚、把一道推导题写出完整步骤。这篇东西就是把这些考题背后的共性逻辑、高频考点和复习优先级梳理出来给准备这门课的人一条尽量少走弯路的线索。1. 先摸清考卷结构这些年题型的变与不变整理2015到2019这五个年份的试卷最直观的感受是格式出奇地稳定。前面是一批选择加判断题专门打概念细节中间是简答题考你对某个方法本质的理解后面跟着计算推导和综合分析这部分的分数占比通常最大也是拉分的地方。到了2021年和2023年格式做了轻度调整概念类题目的比重略有收缩取而代之的是“给你一个实际场景让你自己设计解法并写出关键公式”这类综合题。1.1 选择与判断考的是概念边界这两年很多人复习时喜欢抱着PPT从头背到尾但选择题真正想检验的是概念的边界在哪里。比如“决策树是不是生成模型”这种问题表面在问分类实际在考你对判别式模型和生成模型的区分是否到位。再比如“SVM的惩罚参数C增大会让模型偏向欠拟合还是过拟合”这类题只要理解C是对误分类的惩罚强度就能推出来不需要死记结论。我整理题目时留意到这些年反复出现的高频概念考点集中在几个固定区域贝叶斯决策里的先验与后验关系、极大似然估计的偏差与方差特性、KNN为什么在高维空间失效、PCA的投影方向为什么取最大特征值对应的特征向量。这些细节点散落在不同年份里但本质是在反复确认你有没有真正理解基础概念。1.2 简答题表述比答案多拿分简答题这几年有一个明显趋势越来越不喜欢“一句话结论”越来越看重“层次清晰的解释”。同一道“解释什么是过拟合”低分回答是“模型在训练集表现好、测试集表现差”高分回答会分成三层先说明模型复杂度和数据规模的关系再讲训练误差与泛化误差的差异最后补充正则化或交叉验证的应对思路。题目本身不难但表述的完整度直接决定分数差异。1.3 计算推导与综合分析真正的分水岭这门课想拿高分计算推导题必须稳住。这类题主要集中在三类贝叶斯决策的判别式推导、感知机或SVM的优化过程、EM算法或PCA的数学推导。远期试卷对推导步骤给分非常细即使最终数值算错只要中间关键公式正确依然能带走大部分步骤分。而2021年和2023年新增的综合分析题通常给一段应用背景要求你设计完整方案从特征选择到分类器选型再到评估方法都要覆盖考的是把零散知识组合起来解决实际问题的能力。提示复习优先级应该先保证计算推导题的每一步公式都能独立写出来再花时间打磨简答题的表述。选择题靠刷题找感觉性价比最高。2. 贝叶斯决策年年必考的推导重镇把2015到2023的试卷并排看贝叶斯决策是唯一一个从未缺席的大题来源。这门课把贝叶斯当作分类问题的理论起点考题自然围绕它的核心逻辑展开。2.1 最小错误率与最小风险的区别经典辨析点最常考的一种出题方式是给一个二分类问题分别给出先验概率、类条件概率密度以及一个代价矩阵然后问你“按照最小风险准则应该把样本判给哪一类”。很多同学在复习时只记住了最小错误率的判别公式拿到带代价矩阵的题目就慌了。其实解法非常固定先写出后验概率再把每个决策的风险值算出来也就是把代价矩阵对应位置的元素乘以相应后验概率然后求和选择期望风险最小的那个决策。关键是理解最小错误率只是最小风险在“0-1代价”下的特例考题只要把代价改成非对称的两者结论就会不同。2.2 正态分布下的判别函数送分题的完整推导链正态分布假设是贝叶斯决策最容易出完整推导题的场景因为类条件概率密度有解析形式判别函数可以一步步化简。推到最后会出现三种形态各类协方差矩阵相等且为单位阵时判别函数退化为线性函数等价于最近均值分类协方差相等但非单位阵时仍然是线性判别函数只是距离变成了马氏距离协方差矩阵各不相同时判别函数变成二次函数决策边界从直线变成了曲线或超曲面。考卷上常让你完整写出第二种情况的化简过程从正态密度公式出发取对数丢掉与类别无关的常数项最后把判别函数整理成线性形式。这个推导在多个年份的试卷里反复出现属于必须闭着眼也能写出来的基本功。2.3 极大似然估计的常见考法贝叶斯决策里还经常混入参数估计的题目最常见的是给一组独立同分布样本假设它服从某个已知形式的分布正态、伯努利或泊松都有可能要求你用极大似然法估计参数。解题过程永远三步走写出似然函数取对数对参数求导并令其为零。这里有一个很容易丢分的地方有时候参数不止一个比如正态分布的均值和方差都要估计求导是对两个参数分别进行的解出来是一个联立方程组。不少同学只求了均值就写答案方差那部分分就丢了。3. 分类器设计题从感知机到SVM的出题套路分类器设计是这门课的另一个核心板块考题通常不会让你从头推导一个全新算法而是围绕几个经典模型的原理和关联来设问。3.1 感知机的更新规则与收敛性感知机的题目多出现在简答或小计算题里。常见问法有两种一种是给出训练样本让你手算几轮权重更新过程另一种是问“感知机算法为什么能收敛它的前提条件是什么”。第二种问题看起来简单实际上很多人在考场上答不完整。标准回答要包含两层第一层是数据必须线性可分这是前提第二层是算法每次只在误分类点更新权重并且总可以找到一个超平面把所有点正确分开时算法会在有限步内终止。手算权重更新时要注意学习率的选择不影响收敛方向只影响收敛速度这个性质有时会作为选择题出现。另外更新式里的符号很容易搞反正负号弄错整道题就全错了建议动笔之前在草稿纸上先写一遍伪代码。3.2 线性判别分析与Fisher准则Fisher线性判别是历年试卷里的常客考点集中在“Fisher准则为什么是那个形式”。它要最大化的是类间离散度和类内离散度的比值直观理解就是让投影后的两类均值尽可能分开同时让每一类内部的样本尽量聚集。考题有时会让你推导最优投影方向也就是类内离散度矩阵的逆乘以类均值之差有时会换个角度让你解释LDA和PCA在目标上的本质差异这时候要抓住一个核心PCA不关心类别信息LDA是拿类别标签来指导投影方向的。3.3 SVM的对偶推导与核技巧SVM是计算推导题的重灾区也是最容易暴露数学功底的地方。完整推导链是先写出最大化间隔的原始优化问题引入拉格朗日乘子对权重和偏置求偏导并令为零回代后得到对偶问题最后用KKT条件说明支持向量的含义。这个过程在2015、2017、2019和2023年都出现过只是表现形式略有变化。核技巧相关的题目相对友好一些常见设问是“为什么引入核函数可以让SVM处理非线性分类问题”。标准解释是核函数隐式地把样本映射到高维特征空间在高维空间里原本线性不可分的样本变得线性可分而计算核函数的值不需要显式知道映射本身所以计算量没有指数爆炸。能把“隐式映射”这四个字讲清楚这道题基本就稳了。注意SVM推导题中拉格朗日函数对偶性的处理是这门课的公认难点复习时建议至少独立推导三遍不要只看书上的推导过程。4. 无监督学习与聚类简答题里的高分区域无监督学习在考卷里的占比比很多人想象中要高。虽然它很少出大型计算题但简答题和概念辨析题经常从这里出而且因为知识点相对集中性价比很高。4.1 K-Means的标准流程与两个易错点K-Means的标准流程是选K个初始中心把每个样本分到最近的中心重新计算各类中心重复直到中心不再变化。这个流程本身不难但有两个细节常年被拿来出题。第一个是初始化敏感问题。不同的初始中心会收敛到不同的局部最优解所以实际使用时常跑多次取最优。第二个是K值的选择这个在考题里一般不会让你给出自动选K的算法而是问“K值过大会怎样、过小会怎样”考查的是对聚类结果的直观理解K太大会把一个真实簇切成几份K太小会把不同簇强行并到一起。4.2 高斯混合模型与EM算法的关系这是无监督部分最有区分度的一道题。它的核心逻辑链条是假设数据由多个高斯分布混合生成但每个样本来自哪个分量是未知的这个未知量就是隐变量。由于隐变量的存在直接做极大似然估计求不出解析解所以用EM算法迭代逼近。E步是在当前参数下计算每个样本属于每个分量的后验概率M步用这些后验概率加权更新各分量的均值和协方差。考题有时会要求你对比K-Means和高斯混合模型的区别回答时抓住一个关键角度K-Means是硬分配每个样本只能属于一个簇高斯混合是软分配每个样本以不同概率属于各个分量。能把硬分配和软分配这个本质区别讲清楚比罗列一堆流程细节拿分效率高得多。4.3 聚类评估指标的基本概念聚类结果的评估和分类不一样因为多数时候没有标签可供对照。考题涉及最多的三个指标是纯度、兰德指数和轮廓系数。前两者需要真实标签才能计算轮廓系数不需要任何标签它衡量的是一个样本与自己簇内样本的相似度和与最近其他簇样本的相似度之间的差距。选择题有时会问“下列哪个指标不需要真实标签就能评估聚类质量”记住轮廓系数是唯一“免标签”的答案就能拿分。5. 深度学习与神经网络近年考题的显著转向2015年那会儿的考卷里神经网络还是作为传统模式识别框架的延伸出现占分不大。到了2021年和2023年深度学习的比重肉眼可见地上升而且出题方式变得更务实。5.1 反向传播最值得投入时间的一道推导题反向传播在这两年的试卷里出现过不止一次出题形式通常是给一个三层小网络每层都标好权重给一个训练样本和损失函数要求你手算一轮前向传播和一轮反向传播更新输出层和隐藏层的权重。这种题的难点不是理解链式法则而是保持耐心不写错下标。一个实用的考试技巧是先在草稿纸上画出清晰的计算图每个节点标注好输出值和局部梯度再沿着反向路径一步一步把误差传回去。这个习惯能大幅降低计算失误的概率。复习时至少要把二分类交叉熵损失和平方误差损失下的反向传播各完整手推一遍。5.2 激活函数、损失函数与过拟合深度学习相关的简答题比较集中反复出现的几个考点是为什么ReLU比Sigmoid在深层网络中更常用、交叉熵损失和平方误差损失在分类问题上的差异、Dropout和数据增强为什么能缓解过拟合。回答ReLU优势时抓住两点就够了一是计算简单求导不是1就是0二是能缓解梯度消失问题Sigmoid在深层网络里容易让梯度越乘越小导致前面几层几乎学不动。过拟合相关题目则以“为什么深度模型容易过拟合、有哪些常见缓解手段”为典型问法。缓解手段至少要能说出数据增强、正则化、早停、Dropout和降低模型容量这五种中的三到四种并且说明每种手段的作用机制。5.3 CNN与新兴模型的基础概念卷积神经网络的考点集中在局部连接和权值共享这两个核心设计思想上。局部连接的意思是每个卷积核只关注输入的一小片区域对应图像里的局部特征权值共享则保证同一个卷积核在整张图上滑动时参数不变大幅减少参数量。2023年的试卷还增加了一些更前沿的模型概念题包括注意力机制的基本思想、Transformer结构和传统RNN在长距离依赖上的差异等。这类题的复习策略不求深入完整地复现理论能说明白核心动机和基本流程就够了但对近年论文有大致的了解是必要的。6. 刷题顺序与应试技巧把有限时间花在刀刃上这门课内容跨度大从经典统计学习到深度学习都有覆盖如果按PPT顺序平均用力很可能复习到后面忘了前面。我整理真题之后的体会是刷题顺序比刷题量更重要。6.1 按知识点模块横向归纳真题比起按年份一套一套地刷把相同知识点的题目放在一起对比效率要高得多。比如把2015到2023年的贝叶斯决策题全部摊开放在一起做你会很快发现自己在这一块的真实水平也能直接从多次练习里总结出最常考的公式和套路。深度学习题目也一样把所有年份的深度学习相关题放到一起立刻能看出命题趋势的走向。6.2 构建自己的推导清单备考时最有效的一件工具是一份“推导清单”。把那些必考的核心推导写成一行一个条目贝叶斯最小风险决策、正态分布判别函数化简、感知机权重更新、SVM对偶问题、PCA目标函数最大化、反向传播单轮计算。每天用半小时不看任何资料在一张白纸上把清单里的内容从头到尾推一遍。第一天可能磕磕绊绊推到第五天基本就能形成肌肉记忆。考场上碰到任何一道推导题至少不会出现“明明复习过但这个公式怎么想不起来”的尴尬。6.3 考场上的步骤分策略根据多年真题给分逻辑的经验计算大题只看答案是不行的每一步公式都有对应的分数。考场上有几条实用策略每写一个关键公式之前先用一句话说明这一步在做什么让阅卷人容易跟上思路所有中间变量都保留符号不要急着代入数值这样可以减少计算量并方便复查即使最终结果做不出来也要把考虑到的关联公式全部写上去步骤分能拿多少拿多少。另外需要特别提醒的是这门课的考试计算量普遍偏大平时练习就要养成限时完成整套题的习惯。考场上时间分配建议是选择题和判断题不超过25分钟简答题控制在40分钟左右剩下的时间全部留给计算推导和综合分析因为这类题才是真正拉分的部分。前期的概念题犹豫太久会直接挤压后面推导题的发挥空间。我在实际整理这些真题时有一个很深的体会这门课的考题风格确实变了但深层逻辑并没有变。它始终在考察你能不能把一个算法的假设、推导、优缺点和使用场景串成一条完整的逻辑线而不是零散地记住几个孤立结论。以这条主线去复习不管题目怎么换花样你都能找到应对的路径。