非Blackwell显卡的最后机会minimax-h3-nvfp4-convrot实验性INT4 W4A4 ConvRot方案全解析minimax-h3-nvfp4-convrot 是为 MiniMax H333B 全模态视频音频生成模型制作的ComfyUI 单文件量化检查点合集Blackwell 显卡用 NVFP4 权重非 Blackwell 显卡则可用实验性INT4 W4A4 ConvRot权重这是目前在小显存/老显卡上本地运行 MiniMax H3 的最低显存方案可输出 768p / 24 fps / 4–15 秒、带同步 32 kHz 立体声音频的视频。⚠️ 先说重点INT4 系列处于实验状态作者只确认了能加载、能端到端生成画质未经评估。如果你用的是 BlackwellRTX 50 系 / B100 / B200仍推荐 NVFP4 系列。MiniMax H3 能生成什么视频音频双模态模型MiniMax H3 是一个33B 参数的全模态生成模型一次生成视频与配套音频。这套量化文件的输出规格为 768p / 24 fps / 4–15 秒附带同步的 32 kHz 立体声音频2K 输出需要单独的 H3-Regenerate-2K 模块不在本仓库内。它提供两种模式文件前缀不同fl2va— 首/尾帧模式0 张图 文生视频T2V1~2 张图 帧条件视频ref2va— 全参考模式最多支持 9 张图 / 3 个视频片段 / 3 个音频片段作为参考两种模式享受完全相同的量化处理按自己的工作流二选一即可。快速选型10 个模型文件一张表看懂仓库内文件命名规则为minimax_h3_fl2va|ref2va_variant.safetensors各变体对比如下变体大小GPU 要求状态pruned_nvfp4_convrot_int820 GB仅 Blackwell✅ 推荐已在 ComfyUI 实测pruned_nvfp4_fp820 GB仅 Blackwell基准测试版qkv_proj 用 FP8用于速度对比pruned_nvfp420 GB仅 Blackwell已测试同体积下比上面两个慢nvfp434 GB仅 Blackwell未剪枝基础版pruned_mixed_int4_int8_convrot_simple20 GB非 Blackwell 可用⚠️ 实验性质量未评估pruned_int4_convrot_simple17 GB非 Blackwell 可用⚠️ 实验性体积最小int4_convrot_simple25 GB非 Blackwell 可用⚠️ 实验性未剪枝 注意三个 INT4 变体只有fl2va版本其余变体两种模式都有。选型建议Blackwell 显卡→ minimax_h3_fl2va_pruned_nvfp4_convrot_int8.safetensors确认可用、格式最保守Ampere / AdaRTX 30/40 系等非 Blackwell 显卡→ INT4 系列其中 17 GB 的 minimax_h3_fl2va_pruned_int4_convrot_simple.safetensors 是最小体积为什么 NVFP4 是 Blackwell 专属NVFP4 是 BlackwellSM ≥ 10.0 / 12.0张量核心原生的低精度格式老卡没有任何回退路径。仓库里所有nvfp4文件包括convrot_int8变体——它除attn.qkv_proj外其余部分仍是 NVFP4都受此限制。这正是 INT4 逃生通道存在的意义让非 Blackwell 用户也能本地跑 MiniMax H3代价是质量未验证。还有一个细节comfy-kitchen的 W4A4 CUDA 内核只在major 8Ampere/Ada时使用原生 INT4 张量核心 MMABlackwell 会始终走 INT8 激活路径——所以在 Blackwell 上INT4 没有任何速度优势直接用 NVFP4 系列。ConvRot 如何撑起 INT4 W4A4核心原理ConvRot分组 Hadamard 旋转是一种即插即用的量化方法思路分三步按固定大小的分组对权重以及激活做预旋转把离群值的能量摊开让 INT4/INT8 的狭窄数值范围装得下从而无需重训练即可实现 INT4 权重4位 激活4位W4A4推理它源自 ConvRot 论文arXiv:2512.03673Rotation-Based Plug-and-Play 4-bit Quantization for Diffusion Transformers。本仓库的 INT4 系列用ctqconvert-to-quantCLI 以--simple模式量化RTN 舍入无学习舍入。三个 INT4 实验文件详解文件大小说明minimax_h3_fl2va_int4_convrot_simple.safetensors25 GB未剪枝180 层mlp.fc1/fc2、qkv_proj、adaln_proj量化为 INT4 W4A4minimax_h3_fl2va_pruned_int4_convrot_simple.safetensors17 GB剪枝版 AdaLN 查表移植剩余 135 层量化层全部保持 INT4minimax_h3_fl2va_pruned_mixed_int4_int8_convrot_simple.safetensors20 GB48 层回升为真正的 INT8 ConvRotint8_tensorwise41 个 mlp.fc1 4 个 mlp.fc2 3 个 qkv_proj以找回质量混合 INT4/INT8 版值得多说两句。ConvRot 论文实测纯 W4A4 相对 BF16 有明显退化FLUX 上 FID 10.07 → 12.32ImageReward 0.99 → 0.84——原因不是离群值ConvRot 已处理好而是 INT4 在平滑低频区域表征能力有限。论文的解法是把约 20% 的层按功能角色而非离群值幅度升回 INT8这个混合文件int8_ratio 0.2沿用了该策略但层清单继承自 FLUX、未在 H3 上调优只能算起点而非定论。运行条件INT4 W4A4 需要带comfy-kitchen的TensorCoreConvRotW4A4Layout支持的 ComfyUI 构建否则无法加载。再强调一次INT4 质量在仓库中没有经过评估只确认了端到端可运行。普通用户请谨慎预期发烧友则不妨上手帮忙验证质量。34 GB → 20 GBAdaLN 剪枝的秘密文件名里的pruned前缀意味着把 H3 的 AdaLN 调制网络替换成预计算查表。AdaLN 调制权重占 13.1B / 33.1B 参数约 39%Comfy-Org 发现这些权重只依赖扩散时间步、与内容无关在固定的推理时间步集合上可坍缩为一个小查找表且输出质量无损剪枝版从 Comfy-Org 的 pruned 发布中直接移植adaln_t_table[1025, 8] F32与坍缩后的*.adaln_proj.linear[*, 8] F16单文件从 34 GB 降到 20 GB 一个坑剪枝架构要靠 ComfyUI 的 shape-based 检测由adaln_t_table.shape[1]推断time_embed_dim来识别而 pruned 文件必须不带config元数据块——否则陈旧的time_embed_dim: 2688会覆盖正确值、导致加载失败。另外剪枝版依赖 ComfyUI 的架构检测在 ComfyUI 之外使用时未剪枝文件是更稳妥的选择。上手指南在 ComfyUI 里跑通量化版 MiniMax H3下载配套文件本仓库的扩散模型需要配套文本编码器与 VAE来自 Comfy-Org/MiniMax-H3分别放入 ComfyUI 的models/diffusion_models、models/text_encoders、models/vae目录并使用该仓库提供的 I2V / T2V / R2V 工作流模板文本编码器提示文本编码器是 Qwen3-VL 32B本身就很占显存Comfy-Org 提供了nvfp4_awq版本在 Blackwell 上与之搭配较好放入模型文件如pruned_nvfp4_convrot_int8或 INT4 实验文件到models/diffusion_models在模板中加载INT4 用户务必确认 ComfyUI 构建包含comfy-kitchen的 W4A4 支持再运行生成底层实现量化方案细节仓库全部量化用ctqconvert-to-quantCLI 完成配合手工编写的逐层配置该架构没有内置过滤规则层格式blocks.{2..46}.mlp.fc1/mlp.fc290 层NVFP4blocks.{2..46}.attn.qkv_proj、.adaln_proj.linear90 层FP8tensor-wise scale首 2 / 尾 3 个 block、attn.out_proj、condition_proj、time_embedder.*、音频/视频输入投影、final_layer.*、token_refiner.*86 层BF16 保留不动完整配置见 minimax_h3_layer_config.jsonINT4 版配置 minimax_h3_layer_config_int4_convrot.json 将mlp.fc1/fc2、attn.qkv_proj、adaln_proj.linear标记为int4_convrot_w4a4跳过的精度敏感层与 NVFP4 版一致。NVFP4 量化命令大致如下ctq -i minimax_h3_fl2va_bf16.safetensors \ -o minimax_h3_fl2va_nvfp4.safetensors \ --nvfp4 --custom-type fp8 \ --layer-config minimax_h3_layer_config.json \ --comfy_quant --save-quant-metadata而 INT8 ConvRotattn.qkv_proj即推荐的pruned_nvfp4_convrot_int8变体走的是提取 → 量化 → 拼接流程45 层qkv_proj.weight从原始 BF16 权重而非被替换的 FP8 张量避免二次量化误差提取单独用--int8 --dynamic-convrot --convrot-group-size 256量化再拼接回 pruned NVFP4 文件。文件体积不变但 INT8 张量核心吞吐普遍高于 FP8推理更快。完整流程文档见 README.md。许可证与注意事项许可证为MiniMax H3 Community License Agreement继承自官方 MiniMax-H3仓库内附完整副本LICENSENVFP4 系列被推荐是因为它使用保守、成熟的格式并确认可用而非因为有质量基准——仓库中没有任何画质测量INT4 系列为实验性质质量未验证仅确认可加载与生成pruned变体依赖 ComfyUI 的形状检测机制在非 ComfyUI 环境使用需谨慎总结一句话记住选型Blackwell →pruned_nvfp4_convrot_int820 GB已验证非 Blackwell → INT4 W4A4 ConvRot 系列17–25 GB实验性。如果你持有 Ampere/Ada 显卡又想本地运行 33B 全模态视频音频生成模型minimax-h3-nvfp4-convrot 目前是最现实的路径之一——用质量未验证换来了小显存下跑通 32 kHz 立体声音频的本地视频生成体验。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考