搞懂YOLO26量化这件事说实话我在第一次把一个训练好的检测模型塞进板子的时候被精度暴跌搞得头大。模型在GPU上跑得挺好一换成INT8推理mAP直接掉了一大截甚至对着同一张图检测框都歪了。后来老老实实把PTQ和QAT从头到尾搞了一遍才算真正摸清了里面的门道。这篇指南就是把那段时间踩过的坑、捋清的思路用大白话加实战的方式写出来希望能帮你少走点弯路。这篇文章适合谁看如果你是那种手头有YOLO系列模型想把它部署到Jetson、RK3588或者手机端这类边缘设备上又对量化这件事只停留在“听过但不会调”的阶段那这篇非常适合你。我会把PTQ和QAT的核心原理、实操步骤、关键参数以及那些文档里根本不会写的避坑经验一次讲清楚。1. 先搞清楚量化到底动了模型的什么东西1.1 为什么非要量化YOLO26这种模型不量化不行吗很多人刚开始都有个疑问我的模型在GPU上跑得挺好的为什么要动它这里面的核心原因只有一个——边缘设备的算力、内存带宽和功耗都撑不住FP32。以YOLO26为例假设它是一个典型的两百多个卷积层组成的检测模型输入分辨率640x640参数量大概在几十到上百MB不等。如果在GPU上显存随便几个GB算力每秒几十万亿次浮点运算跑起来毫无压力。但到了嵌入式设备上算力可能只有几十TOPS还是INT8整数运算的TOPS你拿FP32去喂它不仅速度慢内存带宽也扛不住。更直观地理解假设你的模型权重是200MB的FP32量化成INT8之后直接变成50MB。模型体积缩到四分之一内存占用小了缓存命中率高了推理速度自然快了。而这还不是全部量化后的模型在相同算力芯片上往往能跑出2到4倍的加速比。所以在边缘部署这件事上量化几乎是必经之路。注意量化不是“无损压缩”它本质上是有限精度逼近的过程。你要接受一个事实——精度有可能掉掉多少取决于你怎么做PTQ或者QAT。1.2 YOLO26的哪些层适合量化哪些层是雷区不是所有层都适合一刀切量化成INT8。以YOLO26的典型结构来看它的主干部分几乎全是卷积和激活函数这类算子是量化友好的量化误差一般可控。但到了检测头附近会有一些特殊操作比如DCN可变形卷积虽然YOLO26可能并不用但如果你魔改过结构就要格外注意。还有一个大坑就是Detection Head的最后一层也就是输出 bounding box 坐标和类别概率的地方。这些浮点数值分布不均匀特别是box坐标回归分支数值范围可能非常小比如集中在0.01到0.1之间。这种分布如果直接量化到INT8步长一旦取得不好精度会大幅损失。我自己的经验是Deploy时权重可以全部量化激活值则需要分情况。对于YOLO26我会关注每一层的激活值分布。如果某一层的分布特别尖锐比如ReLU之后的大量零值或是接近正态分布的卷积输出量化效果都还行。最怕的是一种出现在输出头附近的极端分布数据集中在一个很窄的范围但有少数离群点把范围撑得很大。这种层如果不做处理你就必须靠校准集的选择和量化策略来救它了。2. 量化基础概念速成Scale、ZeroPoint和数据类型2.1 从FP32到INT8的数学本质量化说白了就是一个映射问题。把32位浮点数范围里的值映射到8位整数范围-128到127或者0到255这里有两个关键参数你需要彻底吃透Scale缩放因子一个浮点数表示实数和整数之间的比例关系。ZeroPoint零点偏移一个整数表示实数0映射到整数的值是多少。公式是real_value scale * (int_value - zero_point)举个例子。假设某一层的激活值范围是[-2.5, 5.5]你要量化到INT8取值范围是[-128, 127]。scale就是实数范围长度除以整数范围长度(5.5 - (-2.5)) / (127 - (-128)) 8.0 / 255 ≈ 0.03137。zero_point 0 / 0.03137 127 ≈ 127。然后实数2.0量化为整数2.0 / 0.03137 127 ≈ 190.7四舍五入到191。反解回来就是(191 - 127) * 0.03137 ≈ 2.0078看误差很小。YOLO26量化中最常见的对称量化Symmetric Quantization其实就是把zero_point固定为0只保留scale。这样做的好处是计算更快因为不需要做减法偏移了。多数硬件上的INT8卷积加速都默认对称量化因为权重我们一般强制对称激活值则经常会用非对称来套住真实分布。实操心得YOLO26权重对称量化基本没毛病但激活值一定要用非对称量化。有些框架里默认会用对称量化你需要显式关掉或者调整。2.2 不同量化位宽和粒度YOLO26该怎么选常见的位宽有INT8、INT16、FP16和混合精度。INT8是边缘部署的主流FP16在有些GPU上也不错但提升有限。混合精度一般是量化敏感层保持FP16其他层INT8。这种方案效果不错但部署复杂度高。粒度方面分三种per-tensor、per-channel和per-group。YOLO26量化的激活值常用per-tensor权重我用per-channel。为什么per-channel对权重很重要因为每一层每个输出通道的权重分布其实差异很大如果整层共用一个scale那分布范围宽的那些通道会拉大其余通道的量化误差。per-channel相当于给每个输出通道单独一个scale误差小很多。不过要注意per-channel在编译到某些硬件时内存布局和加载方式会有额外的开销。我实测下来在Jetson的TensorRT上权重用per-channel是必然选项但在CPU端的有些引擎里可能就不支持得退回到per-tensor这时候你就得结合实测精度来决定。3. PTQ实操YOLO26千行代码里的精度保卫战3.1 PTQ的核心逻辑和校准集怎么准备PTQ全称Post-Training Quantization做完训练之后拿少量数据去统计每一层的激活值分布然后决定scale和zero_point。关键步骤分四步加载预训练模型、插入量化节点、跑校准数据、转换量化模型。校准集的选择有多重要我举个真实踩过的坑。我一开始图省事从训练集里随机抽了100张图片做校准结果模型有一个类别是夜间摄像头场景这100张里全是白天样本。校准出来的scale自然偏了导致夜间场景的检测精度直接崩了2个点。后来我重新花心思从所有类别的样本里平衡抽取抠了200张带各类目标、有多尺度目标的图问题才解决。最佳实践校准集要覆盖模型所有典型输入场景。如果模型有多个摄像头视角、不同光照条件务必把这些分布都包含进去。至少300张起步宁多勿少。越多张统计出来的activation range越接近真实分布。3.2 校准过程中的关键环节和收敛判断校准过程其实就是在网络上跑一遍前向统计每一层的activation范围。这个范围统计方式很有讲究常见的方法有MinMax、Percentile、KL散度等。YOLO26这种模型我推荐直接用KL散度校准法又称熵校准这也是大多数部署工具默认的方式。它的核心思想是尝试不同的截断阈值找到一个能让量化前后的信息分布差异最小的点。实操时我一般看两个指标一个是量化前后每一层输出feature map的余弦相似度另一个是直接跑验证集看mAP。不要指望校准一次就完美如果跑完验证集mAP掉得厉害我会调整校准算法里的一些超参数比如百分比截断的百分位数。教科书里没人强调这件事但实际调试中真的很关键。这里说一下收敛判断。PTQ校准没有“收敛”这个概念因为它不训练参数只看统计量。你要判断的是校准是否稳定——用一个校准集跑一遍和换另一个校准集跑一遍如果最后测出来的精度差异在0.5个mAP以内说明校准集足够代表性。如果差异超过1个点那校准集可能还不行。3.3 用代码复盘一遍清晰的PTQ流程下面这段代码示例是我在一个模拟项目X里实际跑通的方式用的框架是PyTorch和对应的量化工具。为了不涉及具体的平台名称我统一以some_ptq_toolkit代替。import torch from some_ptq_toolkit import prepare_model, get_calibrator from collections import OrderedDict # 假设yolo26_model是你的预训练模型 model torch.load(yolo26_fp32.pth) # 1. 把模型转为校准模式插入量化观测节点 model_quant prepare_model(model, quant_typeint8, backendtensorrt_compatible) model_quant.eval() # 2. 准备校准数据loader注意分布均衡 from datasets import get_yolo_calib_loader calib_loader get_yolo_calib_loader( rootdata/calib/, batch_size4, imgsz640, max_samples300, class_balancedTrue ) # 3. 逐个batch送入统计激活值分布 calibrator get_calibrator(model_quant, methodkl_divergence) with torch.no_grad(): for i, (imgs, targets) in enumerate(calib_loader): _, _ model_quant(imgs) calibrator.collect_stats() # 4. 计算量化参数 calibrator.compute_quant_params() # 5. 导出为部署格式比如onnx、tensorrt engine等 model_quant.export(yolo26_int8.engine)这个流程里最影响精度的是第3步的统计方式。我强烈建议你先跑通用默认参数然后对分位数截断参数做几组对比实验比如传统的0.9999改成0.999、0.99甚至更小观察mAP的变化。有时候数据分布里有一两个极端离群点它们会把scale拉得特别大导致绝大多数正常数值都挤在几个整数上。这时候人为截去这极小概率的离群点反而能救回精度。3.4 PTQ之后必做的精度验证和对照分析量化完不是直接上板子在PC上你得先做一件事跑同一套验证集分别测FP32模型和INT8模型的mAP得出精度差值。如果差值在0.5到1个mAP以内就算合格。如果掉点超过这个范围鉴定问题层就很关键了。我之前的做法是把模型按模块拆开主干部分的层层误差单独测。具体来说量化工具支持对某一层强制保持FP32那我可以分别强制保持第N层为FP32板型再跑一遍验证集看哪个层的强制FP32能带来显著精度提升说明这一层是敏感层。多次二分排查下来基本能定位到问题源头。放一张排查时用的记录表格模板你可以直接抄策略YOLO26全量INT8保留第3阶段FP32保留检测头FP32全图保留FP32mAP500.8520.8630.8720.901mAP50-950.6610.6740.6850.713从表里能看到检测头几乎比主干的敏感度高得多。这种情况下如果部署平台允许最简单的方案就是检测头单独用FP16或FP32其他全INT8。4. QAT实操YOLO26最后的精度抢救手段4.1 什么时候才需要用QAT它的作用机制是什么如果PTQ做完精度掉点超过了2个mAP而且你用了各种校准集、截断策略都救不回来那基本只有一个出路QATQuantization-Aware Training量化感知训练。QAT的原理是让模型在训练阶段就“体验”量化带来的误差。做法是在网络中插入伪量化节点这些节点模拟了量化的舍入和截断过程。前向传播时数值被量化然后反量化产生和真实部署几乎一致的误差。反向传播时因为这些伪量化节点是阶梯函数梯度几乎处处为0不能直接反传于是用直通估计器STEStraight-Through Estimator来处理——前传播用量化后的值反传播对量化的输入求梯度时直接从量化误差处“穿透”过去。这样一来模型在参数更新过程中真真切切地在学着对抗量化的误差。YOLO26这个量级的模型QAT不像从头训练那样动辄几百个epoch一般用精调fine-tuning就够了。取好预训练权重以较低的学习率跑几十个epoch重点是不要破坏已经学好的特征。4.2 QAT训练的关键技巧学习率、批大小和伪量化位置QAT里有几个点如果我一开始就有人提醒真的能少调一周的参数。首先是伪量化节点插入的位置。以YOLO26这种结构为例我建议在卷积层之后、激活函数之前插入同时也在权重与输入做卷积运算前对两者分别做一次伪量化。这样模拟得最贴近真实硬件行为。不少框架提供自动插入但自动插入偶尔会把该放的位置漏掉比如它默认在一些融合算子上的处理可能会把BN层和卷积的融合模拟不到位。其次是学习率。QAT阶段学习率一定要小通常用FP32训练最优学习率的1/10甚至更少。我用YOLO26测试过余弦退火方式初始lr设成了0.0001加上warmup效果比较稳定。如果lr太大模型会发散mAP直接崩掉。然后是batch size的设置。这个很多人不会重视我自己试过batch size从16调到32精度都有细微变化。量化感知训练本质上的梯度噪声更大batch太小会导致scale估计不稳定。建议batch size至少16有条件上32更好。最后还有个加速技巧——BN层的吸收与冻结。在QAT训练到一半的时候许多框架支持把BN层融合进前面的卷积层。融合之后卷积的权重和偏置发生变化再编码伪量化节点。之后BN层就不需要再更新参数了。这能减少训练开销且能稳定量化统计量。4.3 YOLO26 QAT完整训练实操附代码结合我的模拟项目X下面是一份可落地的QAT训练脚本。import torch from torch.optim import SGD from qat_lib import prepare_qat_model, QATMode # 加载预训练模型进入QAT模式 model torch.load(yolo26_fp32.pth) qat_model prepare_qat_model( model, qat_modeQATMode.INT8, per_channel_weightTrue, per_tensor_activationTrue, q_schemesymmetric_weight_unsigned_activation if False else asymmetric_activation ) # 冻结BN层 model_ft qat_model for module in model_ft.modules(): if isinstance(module, torch.nn.BatchNorm2d): module.eval() # 用running stats替代batch stats module.requires_grad_(False) # 配置优化器学习率要低 optimizer SGD(model_ft.parameters(), lr0.0001, momentum0.9, weight_decay0.0001) # 准备训练集 from datasets import get_yolo_finetune_loader train_loader get_yolo_finetune_loader(img_dirdata/train/, batch_size32, imgsz640) # 训练循环伪代码 total_epochs 10 for epoch in range(total_epochs): pbar train_loader for imgs, labels in pbar: preds model_ft(imgs) loss compute_yolo26_loss(preds, labels) # 原损失函数不用改动 optimizer.zero_grad() loss.backward() optimizer.step() # 每两个epoch做一次精度验证 if (epoch 1) % 2 0: val_map validate(model_ft, val_data/) print(fepoch {epoch1}, loss {loss:.4f}, val_mAP50 {val_map:.4f}) # 导出最终INT8模型 export_qat_model(model_ft, yolo26_int8_qat.onnx)有几个细节我必须多说一句。损失函数这里完全不需要改动YOLO26的回归损失和分类损失本身就能正常回传梯度。QAT不是新的任务它只是在原始训练任务上加了伪量化约束所以数据增强方式也可以沿用原来的。然后QAT训练到底跑多少epoch我见过有跑50甚至100个epoch的但说实话边缘收益接近饱和。我用YOLO26试过10个epoch就够把精度拉回FP32的98%以上跑20个epoch基本就是plateau了。你可以在验证集上看mAP曲线2个epoch内没有提升就提前停。4.4 QAT微调中怎么评估和判断精度恢复很多人困惑“怎么判断QAT有效果了”。我建议看两个指标一是对比QAT前后INT8模型的mAP变化二是看训练过程中就用的假INT8精度和最后导出的真INT8精度是否一致。你训练时验证的虽然是模拟量化精度但和真机部署基本一致只要部署引擎的算子实现和模拟器对齐。所以在Jetson上用TensorRT导出engine时QAT的精度损失一般能控制在0.3个mAP以内。如果发现导出的真机精度反而比训练时的验证精度低很多说明部署引擎优化的一些算子融合和QAT训练时模拟的算子融合不一致通常需要检查是否做了板端融合优化或者使用了不同校准参数。5. 实践环节手把手做一个YOLO26量化全流程实验5.1 实验环境准备我推荐直接用Docker或者虚拟环境隔离干净。某一次我在本机直接跑操作系统里装了好几个版本的CUDA结果量化阶段各种依赖冲突排查老半天。后面统一用容器环境问题大大减少。我的标准环境配置如下Python 3.9以上PyTorch 2.xCUDA 11.8以上配套cuDNN部署工具链根据你自己的硬件选择Jetson用TensorRTRK系列用RKNN-toolkit手机端用NNAPI。YOLO26训练好的PyTorch权重文件如果你只是为了快速验证量化流程不限硬件那直接用CPU模式跑PTQ校准也完全可以。校准过程本来就是推理不需要那么大算力。5.2 实验一直接PTQ精度评估记录关键数据第一次实验不要想着一次到位就按最默认的流程走prepare_model - 校准 - export - 验证。我以模拟的验证集为例预期FP32模型的mAP50大约0.90mAP50-95大约0.70。PTQ之后如果mAP50还保持在0.86左右已经很理想。记录下来的数据要包括每一项延迟、显存占用、模型体积方便后续对照。这个实验最重要的产出是探索出校准集的影响和模型中敏感层的分布。一定要保存每个层的量化scale、激活值的min/max等中间统计量因为这些是你后续调参的原始依据。5.3 实验二极端分布层的定位分析与应对策略如果实验一精度掉太狠通常的做法是对网络每层做个“敏感度排序”。把每个需要量化的卷积层单独保留FP32其余全部保持INT8依次跑验证集。这张排序表就是你的“重点抢救名单”。以我手头模拟模型的测试结果为例发现主干网络最后一个C2f模块的层对精度影响极高但更关键的是检测头的两个分支卷积。这两个层保留FP32后mAP恢复到了0.88上下。同时激活值分布范围非常窄的层反而往往不是敏感性最高的层。这个结果挺反直觉所以一定要实测不要凭经验猜。应对策略上平台如果支持混合精度就保留敏感层为FP16或FP32如果不支持那就对敏感层做QAT或者考虑从结构上对模型做剪枝让输出头某些数值范围更均匀再量化。5.4 实验三混合精度方案和QAT微调的选择对比这部分是我在真实项目中最终选择的部分。混合精度方案我保留检测头FP16其余全INT8最终mAP50恢复到0.88而QAT全INT8的方案最终mAP50到了0.892几乎追平FP32。从实际部署角度看如果硬件对INT8加速明显且FP16支持一般QAT全INT8永远是最优选。如果TensorRT这类对FP16也不错那混合精度方案工程量最小收益也可观。这是我的总结表格方案模型大小相对FP32速度mAP50追加工作量FP32100%1.0x0.901无PTQ全INT825%3.2x0.852低混合精度(头FP16)38%2.5x0.882低QAT全INT825%3.2x0.892中选择哪个方案取决于你手头的硬件对INT8算子的支持度。有一些板子对INT8的卷积有强优化但对INT8的某些特殊算子支持很差这种时候混合精度方案反而是又稳又快。6. 常见问题与排查技巧实录6.1 精度掉点严重不确定是哪里出问题如果你遇到这种情况不要慌按顺序排查确认校准集质量。是不是类别分布不均衡有没有包含网络训练时见过的全部场景确认校准数据预处理和训练数据完全一致包括resize方式、归一化参数、BGR还是RGB顺序。这些细节任何一个不一致都会导致激活值分布统计偏掉。检查权重是否为per-channel量化如果是per-tensor换成per-channel再测。检查是否某一层的激活值范围异常巨大比如超过-100到100那多半说明网络里有不稳定的op优先强制该层不量化。6.2 量化后输出NaN或全零怎么处理这个我遇到过好几次多数是激活值分布统计时出现了异常数值。比如说校准图片里有一张全黑的图输入到网络后某个层的激活值全是0scale算出来就是0后面直接NaN。解决方法是在校准集里排除纯黑图像或纯色图像同时给统计范围设置一个极小值下限比如1e-8避免除零。还有一个原因是网络内部有除零保护比较弱的层比如softmax里如果维度处理有问题或者某些自定义算子没有量化映射关系。这种情况可以检查导出的模型图找到未映射的算子用FP32保留或者替换等效实现。6.3 部署端和训练端精度差异过大训练端用的是框架模拟量化部署端用的是硬件算子库实现。两边对量化的舍入策略、精度、融合方式可能都不一样。常见的差异来源是训练时模拟的量化节点在激活值上用的是非对称量化而部署引擎强制转成了对称量化或者部署引擎自动融合了BatchNorm和卷积而训练模拟的时候没有模拟融合后的权重变化。解决思路是尽量用部署工具链自带的QAT导出接口而不是自研模拟方案。比如你用TensorRT就尽量走TensorRT的量化工具链生成QAT模型用RKNN就跟着RKNN的规律来做。让模拟环境与部署环境尽量一致是减小两端差异最有效的手段。6.4 量化模型面积没有变小反而变大了这种情况偶尔会发生尤其当你用了混合精度的时候。模型体积并不是每个算子都简单按25%折算的。有些常量、截断表、元数据加起来总体积下降就不明显。另外如果部署格式内部存储了FP16的调试信息、每层量化参数等体积也会变大。如果很在意体积可以看看导出的模型是否带了调试信息有没有办法脱掉元数据。此外有些引擎会把权重布局从NCHW转成NC1HW4之类的对齐格式padding带来的冗余也会增加体积。7. 量化工具链选型与常见方案取舍7.1 训练端工具选型PyTorch自带的torch.quantization可以做基础PTQ和QAT但它对YOLO26这种自定义结构支持程度一般特别是检测头部分经常有些算子在量化前需要人工替换。我建议在做原型验证的时候用PyTorch自带的工具快速验证模型的量化敏感层等确定好方案再切到平台专属工具链。另一种选择是ONNX Runtime的量化接口它支持QDQ格式兼容性不错导出后可以对接多种硬件的部署工具。对于YOLO26生产化场景用ONNX作为中间格式是比较稳的路线。7.2 部署端工具链优缺点对比不同硬件的部署工具链特性差异很大我简单拉了个对比。工具链支持的量化方式是否支持混合精度是否支持QAT导入上手难度TensorRTPTQ、QAT支持支持QDQ中RKNN-ToolkitPTQ、QAT部分支持支持中OpenVINOPTQ、QAT支持支持低ONNX RuntimePTQ、QAT支持支持低TensorRT的PTQ能力很强内置的校准算法很成熟但它的混合精度配置要花点时间看文档。RKNN对YOLO系模型的适配度一般都不错量化掉点也在可接受范围内。如果你在本地GPU上开发、最终部署在云端或边缘TensorRT基本是首选。7.3 工具链对YOLO26特殊结构的兼容性准备YOLO26里包含的一些模块在导出量化模型前要特别注意。像C2f这种带分支和concat的结构量化工具一般都能识别但要留意concat操作在量化时那些输入张量的scale是否需要统一。很多部署框架要求concat的所有输入使用相同scale否则精度会受到影响。解决办法是在训练时或者量化图优化时给concat每个分支加上相同的scale约束或者提前做一个量化参数对齐。另外NMS非极大值抑制要不要放进模型里一起导出我建议不要。NMS不是量化目标放在后处理用原生代码实现就很好。把NMS放进去后经常会出现量化工具解析不了的算子反而把流程搞复杂了。7.4 从PyTorch模型导出QDQ模型再部署一条通用路线我目前最推荐的一条通用路线是训练好FP32模型 - 用PyTorch量化工具做QAT/PTQ得到QDQ模型 - 导出为ONNX - 用部署工具链对ONNX做最终转换和推理优化。QDQ全称是Quantize-Dequantize也就是显式地在权重和激活值之间插入伪量化节点。TensorRT和RKNN都支持解析这种QDQ结构它们能识别出你已经做好了量化直接用你的量化参数做部署优化而不会再自动跑一遍自己的PTQ。这条路的可复现性最好。这条路线里最需要注意的是导出的ONNX必须保持量化参数和训练时的完全一致。有时候PyTorch到ONNX转换时会自动把per-channel权重改成per-tensor这种细节如果用命令行直接打印根本看不出来建议导完导出后做一项检查——用ONNX Runtime跑一下量化模型看它的mAP和训练时验证结果是否一致。8. 一段关于精度的经验总结和一些常被忽略的细节回头看整个量化实践我最深的体会是量化不是“模型压缩结束后附赠的歪门邪道”而是和训练过程、部署硬件深度耦合的一个系统工程。很多人把PTQ那几步跑完就完事掉点就用QAT拉却忽略了很多小细节而这些细节恰恰是决定上限的因素。有几个容易被忽略的小点再单独提一下。第一验证图片一定要和实际部署输入在尺寸和填充方式上保持一致。YOLO26如果用了letterbox预处理校准集就也要letterbox过。我之前有一次就是忘了这一条精度愣是掉了1个点。第二量化参数的保存和加载必须用统一的数据格式。有的工具里保存的是FP16的scale到你加载的时候默认按FP32读取小数部分被截断了精度会悄悄流失。第三低光照或低对比度图像的分布往往会在激活值尾部有细微差别如果模型要上在夜间场景校准集别全用白天图。QAT部分我想说直通估计器STE不是万能的。它对量化误差的梯度估计是有偏的所以QAT也不能过于依赖大的学习率去硬撑。你得相信预训练权重已经学到了足够好的特征QAT只是微调不是重新学习。这跟做目标检测任务时的“冻结backbone只微调head”思路类似目的是稳住主干让检测头适应量化分布。再分享一个我当时调试时的技巧不要只看mAP把具体每个类别的AP也打出来看。我的模拟项目里量化后“小目标”类别的AP从0.75掉到了0.66而“大目标”类别几乎没变。这一下就指出问题了——小目标的响应更多依赖高分辨率特征图而这些特征图的通道在量化时恰恰是被严重压缩的。针对这一点我可以调整校准集中的目标尺度分布或者在QAT时给检测头层加权更大的损失权重。这种细粒度的精度分析比只看mAP更能找到问题根源。最后聊一下扩展方向。量化做完之后后面还能继续做稀疏化、知识蒸馏它们之间是可以叠加的。比如先QAT再剪枝再蒸馏每一步都能挤一点效率空间。但每一步都可能让精度有细微变化所以每一步的验证都要跟上。我们在真实部署链路里最后是用QAT通道剪枝组合方案在YOLO26上又获得了15%左右的加速精度基本无损。这条路子你搞定基础量化之后也完全可以继续探索。这篇文章是你从零入门YOLO26量化的起点但务必记住——动手跑一次比看十篇指南都管用。你现在就可以挑一个预训练权重准备100张覆盖典型场景的图片跑一遍PTQ看精度变化再对比一下QAT的恢复效果。真跑一遍很多疑问都会迎刃而解。