简介面向深度学习和图像识别初学者的卷积神经网络特征提取与训练代码包基于MATLAB实现覆盖卷积神经网络的构建、训练、前向反向传播以及梯度检查等核心环节。资源共7个.m文件压缩包约4KB已有627人学习下载轻量精简便于快速阅读和二次修改。代码结构清晰从网络初始化到参数更新均有对应函数适合想要理解CNN内部原理的读者运行调试并可结合卷积层、池化层和权值共享机制观察特征提取过程实际运行时能逐步查看输入图像如何经卷积与池化生成特征映射体会滤波器权重共享与局部连接对参数量的影响。资源不仅包含训练和测试流程还附有数值梯度检查脚本帮助验证反向传播实现是否正确降低初学者调试门槛通过这套示例不仅能掌握CNN从数据输入到误差反向传播的完整流程还能为后续迁移到图像分类、语音识别等任务打下基础。1. CNN 特征提取先把分类头丢掉图像分类只是 CNN 任务的出口真正的计算发生在卷积层里。把训练好的分类网络末端全连接层丢掉取中间某一层的激活值这一组数值就是 CNN 特征特征图每个位置响应的是“输入局部区域像不像某种模式”通道数代表学到多少种模式。分类层只把特征映射成标签而特征本身能用于检索相似图、小样本分类、图像去重和聚类。搞清楚这个区别特征提取就拆成两件事取哪一层以及如何把特征张量变成能用的向量。下面按“特征结构 → 提取代码 → 可视化调试 → 实际用法”的顺序完整展开适合不满足于只跑通分类、想真正用好卷积神经网络表达能力的工程师。2. 卷积神经网络特征是怎么一层层变“抽象”的2.1 CNN 原理里最关键的一步卷积在算什么一个卷积核就是一个小的权重矩阵比如 3×3。它从输入左上角开始每次移动一个步长对覆盖区域做逐元素相乘再加总得到一个标量响应这个响应超过某个程度就相当于说“输入局部区域和卷积核学到的模式相似”。遍历完整个输入就得到一张与输入空间尺寸对应的响应图也就是卷积神经网络特征中最原始的通道。多个卷积核并行扫过同一输入就有了多个通道这是 CNN 结构里“通道数”的实际来源。通道不是孤立的下一层卷积会同时跨过上一层的所有通道做加权求和所以一个卷积核实际观察的是多通道特征组合。逐层叠加的直接结果是浅层特征由像素构成深层特征由浅层特征的组合构成。这个堆叠过程贯穿整个 CNN 结构也是后面所有特征提取方法的起点。2.2 从浅层到深层特征图在响应什么不同层响应的模式差异很大。以输入 224×224 的 ResNet18 为例各层输出形状与典型响应内容大致如下网络层级通道数×空间尺寸典型响应特征conv164×112×112方向边缘、颜色边界layer164×56×56纹理、小拐角、规则网格layer2128×28×28局部部件如眼睛、车轮局部layer3256×14×14部件组合如人脸轮廓、完整车窗layer4512×7×7更完整的语义对象区域看 CNN 结构图时要留意的趋势有两个。通道数逐层增加空间尺寸逐层缩小通道多意味着卷积核分工更细空间小意味着保留的是区域响应而非像素精度。特征张量的常见形状是 [N, C, H, W]拿到手先对比 C 和 H×W 的组合C 大 H×W 小的层适合生成语义向量C 小 H×W 大的层适合做空间细节描述。平衡两者的常用做法是多个层级同时取出第 3 章会演示对应的特征提取方法。2.3 感受野决定“一个点看过多大范围”单个特征点到底在响应当前输入图片的哪块区域由感受野决定。常规推算方法一个 3×3 卷积会让感受野扩大 2每经过一次 stride2 的下采样后续感受野增长步长翻倍。用代码表达这个递推# 三次 3x3 卷积中间穿插 stride2 下采样累计步长依次为 1、2、4 r 1 for eff_stride in [1, 2, 4]: r 2 * eff_stride print(r) # 依次得到 3、7、15这样结构下第三层卷积的每个特征点对应输入约 15×15 的区域而卷积核本身只有 3×3。相同尺寸的卷积核在网络深层放大了作用这也是深层特征天生对位置不敏感的原因。需要精细定位的任务特征应偏向浅层取需要语义对比的任务生成特征向量时优先考虑深层。这一层规律想清楚选层就不再是碰运气。3. 用 PyTorch 写一个能复用的 CNN 特征提取器3.1 取哪一层特征提取器的核心参数选层是特征提取最重要的一步。取太浅特征停在纹理和边缘类间差异不够取太深姿态差异被压缩细粒度信息丢失。常见做法是取“最后一个下采样之前”的层输出对应代码里就是倒数第二个 stage。以 ResNet18 为例各层适用场景如下取出的层输出形状输入 224×224典型用途layer2(N, 128, 28, 28)纹理细节、小目标、像素级匹配layer3(N, 256, 14, 14)部件级描述、相似度融合layer4(N, 512, 7, 7)语义检索、分类、去重向量最后一层 layer4 输出 [N, 512, 7, 7]512 个通道就是特征提取器的“词汇表”7×7 是每个词在原图上的响应位置。后面的全局池化和全连接层在视觉检索里用处不大特征提取时不走它们。3.2 用 forward hook 抓取中间层激活PyTorch 中给模块挂一个 forward hook可以在每轮前向传播时把中间输出复制出来不改动原模型结构。实现代码如下import torch from torchvision.models import resnet18, ResNet18_Weights model resnet18(weightsResNet18_Weights.DEFAULT) model.eval() feat_store {} def make_hook(name: str): def hook(module, input, output): # 只保留数值不保留计算图避免显存累积 feat_store[name] output.detach() return hook model.layer4.register_forward_hook(make_hook(layer4)) with torch.no_grad(): _ model(torch.randn(1, 3, 224, 224)) print(feat_store[layer4].shape) # torch.Size([1, 512, 7, 7])这段代码里register_forward_hook的回调接收模块、输入、输出三个参数函数内部把输出放进字典。detach()是必要的如果后面只做 numpy 可视化或向量检索不保留梯度显存占用会掉一个量级。model.eval()用于切换 BN 层的推理逻辑跑特征时必须写否则同一张图在不同 batch 下特征不一致。提示注册的钩子每次前向都会触发。推理脚本连续跑几千张图时output.detach()后才能确保特征不会带着计算图驻留显存。3.3 多节点提取用 create_feature_extractor 更省事只挂一个 hook 没问题但多尺度提取要同时监听 layer2、layer3、layer4 时手写三个 hook 虽然可以节点一多会变成一堆回调注册代码。较新版本的 torchvision 提供了现成封装from torchvision.models.feature_extraction import create_feature_extractor model resnet18(weightsResNet18_Weights.DEFAULT) multi create_feature_extractor( model, return_nodes{layer2: feat2, layer3: feat3, layer4: feat4}, ) with torch.no_grad(): out multi(torch.randn(1, 3, 224, 224)) for k, v in out.items(): print(k, v.shape) # feat2 [1, 128, 28, 28]return_nodes的键是网络内模块名值是自定义输出名。输出字典的 key 是自定义名使用时直接按 key 取不要依赖字典顺序。封装底层也走 hook省去了手工注册和卸载的步骤同样要注意前向次数多了以后显存里会堆特征副本不用的引用要及时释放。3.4 输出张量的三个维度与常见误用拿到 [N, C, H, W] 后第一件要确认的是 C 不是类别数而是通道数每个通道是一张独立的响应图。很多调参失误来自在通道维上做 average这会直接抹掉特征里的判别信息。正确的流程是先保留通道维只在空间维上做聚合空间位置在检索任务里并不需要精确保持具体写法在可视化与调试部分演示。4. CNN 特征图的可视化与调试4.1 把单张特征图转成可显示的灰度图hook 里抓出来的张量不能直接交给 matplotlib它的值域不是 0~255也没有 RGB 通道。先取单通道、做归一化再显示import numpy as np import matplotlib.pyplot as plt feat feat_store[layer4][0] # (512, 7, 7) x feat.cpu().numpy() ch x[0] span ch.max() - ch.min() 1e-8 ch (ch - ch.min()) / span plt.imshow(ch, cmapviridis, interpolationnearest) plt.axis(off) plt.show()interpolationnearest很关键7×7 的特征图放大会被 matplotlib 默认的 bilinear 插值平滑掉原本的块状激活被渲染成渐变的伪细节影响对响应区域的判断。cmap用 viridis 或 jet 都可以同一个批次内要保持 colormap 一致否则对比时亮度含义对不上。4.2 多通道拼图与三个高频误用看单通道只是起点工程里更常用的是把前 64 个通道排列成 8×8 网格fig, axes plt.subplots(8, 8, figsize(12, 12)) for i in range(8): for j in range(8): idx i * 8 j ax axes[i][j] ch x[idx] span ch.max() - ch.min() 1e-8 ax.imshow((ch - ch.min()) / span, cmapviridis, interpolationnearest) ax.axis(off) plt.tight_layout() plt.show()拼图能快速发现两类问题。一类是“死通道”某个通道矩阵里几乎没有显著激活说明该卷积核在当前的输入上没有学到可用模式常见原因是输入图像类和训练数据分布差异过大。另一类是“重复通道”多个通道呈现几乎相同的激活位置说明网络容量没有被充分利用。发现这两类问题优先检查输入数据再考虑换用更深或更宽的特征提取器。误用方式现象处理把 [C, H, W] 张量直接传给 imshow报 ValueError: Invalid shape按通道循环取二维矩阵再显示特征激活值直接当亮度用强激活把其他通道压成黑块每个通道单独做 min-max 归一化推理时忘了 model.eval()同一张图两次特征不一致推理前必须调用 eval()这里最容易踩的是第三个训练模式下 BN 使用 batch 内统计量推理模式下使用全局统计量同一个输入拿到的特征图会有肉眼可见的差异直接怀疑选层选错其实只是模式没切。4.3 用 t-SNE 看特征分布判断层选得对不对特征图可视化只能看到模式响应看不出类间分离度。把一批图片的特征降维到二维平面检查同类是否聚在一起是判断特征提取器是否可用的常规做法from sklearn.manifold import TSNE # feats 是 list每个元素是特征张量labels 与之一一对应 vec torch.stack(feats).mean(dim(2, 3)).cpu().numpy() # (N, 512) tsne TSNE(n_components2, perplexity30, random_state0).fit_transform(vec) plt.scatter(tsne[:, 0], tsne[:, 1], clabels, cmaptab10, s8) plt.show()perplexity建议在 5 到 50 之间选样本量小于 50 时直接设到 5 左右它控制每个样本考虑多少个邻居太小会散成碎片太大会让全局结构失真。t-SNE 保留的是局部结构两个点离得远不代表特征差异大只代表局部邻域里不在同一簇真正要量化层质量需要下一章的线性分类探针。5. 特征提取的实战落地池化、归一化与检索5.1 全局平均池化优先于展平flatten 保留所有空间位置特征维度高且对位移敏感检索场景里同一物体换个位置flatten 向量的距离变化可能比换类别还大。全局平均池化把 [N, C, H, W] 聚合为 [N, C]每个通道的平均激活是一个统计量对平移更稳定vec feat.mean(dim(2, 3)) # 等价于 adaptive_avg_pool2d(feat, 1).view(N, C)5.2 归一化后算余弦相似度再做 topk 检索高维特征直接算欧氏距离容易被特征幅度主导先做 L2 归一化再点乘就是余弦相似度vec torch.nn.functional.normalize(vec, dim1) scores torch.mm(vec, vec.T) # (N, N) 相似度矩阵 topk_idx scores.topk(5, dim1).indices # 每个样本的最近邻索引归一化后点乘得到的数值范围在 [-1, 1]可以直接 topk。在接 Faiss、Milvus 这类向量库时余弦模式通常也要求调用方自己完成 L2 归一化这一步是接库前的基本功。5.3 浅层加深层多尺度特征拼接深层语义强但丢失边缘、纹理等细粒度线索。取 layer2、layer3、layer4 各自池化后拼成一个向量是分类检索里常见的做法from torchvision.models.feature_extraction import create_feature_extractor multi create_feature_extractor( model, return_nodes{layer2: f2, layer3: f3, layer4: f4}) outs multi(input_tensor) vec torch.cat([outs[f2].mean(dim(2, 3)), outs[f3].mean(dim(2, 3)), outs[f4].mean(dim(2, 3))], dim1) # 128 256 512 896拼接后一般会先做 PCA 降到 256 维再进检索因为浅层通道之间存在大量相关冗余直接使用高维向量会拖慢检索速度。5.4 用线性分类探针决定取哪一层每一层取出来的特征适不适合下游任务不要靠肉眼判断。把特征当固定输入只训练一个线性分类器看验证集分数是业界常用的层评估方法from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split X_tr, X_va, y_tr, y_va train_test_split( vec_x, y, test_size0.3, random_state0) clf LogisticRegression(max_iter1000) clf.fit(X_tr, y_tr) print(clf.score(X_va, y_va))验证集分数越高说明该层携带的任务判别信息越充分同一批数据分别跑 layer2、layer3、layer4三条曲线一出来就能知道多尺度拼接值不值得做。本文还有配套的精品资源点击获取