【免费下载链接】gemma-4-12b-constraintkit-GGUF项目地址https://ai.gitcode.com/hf_mirrors/jajmangold/gemma-4-12b-constraintkit-GGUF点击查看免费下载gemma-4-12b-constraintkit是一个基于 Gemma 4 12B 微调的 text-to-CAD文本生成 CAD模型你用一句大白话描述机械零件或装配体它就写出一份零件参数配合关系的小程序交给 constraint-kit 编译成真实 B-rep 实体并导出 STEP——而不是画一张看起来像 3D 的图。这篇文章想聊两件不太常被展示的事它的SFT 数据工厂是怎么用约 4 万条样本把诚实拒绝训练出来的以及一个训练完却被丢弃的图像转CAD多模态实验为什么最终没能上线。先看懂这个模型到底做什么 它的工作流非常工程化你输入自然语言比如3 个外径 12mm、内孔 5mm、高 8mm 的隔套叠放模型先输出一段思考过程再输出一段 JSON 程序parts params matesconstraint-kit 用确定性数学求解装配位置生成精确几何并导出 STEP / GLB。关键在于每一座积木都可以拿真实几何去校验体积、包围盒偏差控制在 2% 以内而不是靠生成得漂不漂亮来打分。官方公布的 held-out 测试成绩阶段几何校验通过超范围请求诚实拒绝SFTbf1656/6093%26/3087%SFTQ6_K 量化后55/6092%25/3083%SFT GRPO本仓库模型6/6 保持9/10由 8/10 提升对新手来说最值得记住的一点它知道自己不会什么。比如你让它做重型应用用的螺旋锥齿轮它不会偷偷给你一个直齿锥齿轮蒙混过关而是老老实实回答{unsupported: only straight bevel gears are modeled}。这条诚实规则Honesty Rule就写死在训练用的系统提示词里可以逐字阅读train_sys.txt。SFT 数据工厂4 万条训练样本是怎么来的 大多数微调项目最头疼的就是数据手写太慢网上抓的又不可靠。这个项目的解法是让 constraint-kit 自己当数据工厂——用自己体系内的零件、参数、配合关系去生成自然语言 → 推理 → DSL 程序的完整链路样本规模约 4 万行。数据里有三类内容正好对应模型的三种能力正常建件请求 → 推理 → 零件/参数/配合的 JSON 程序诚实拒绝故意点名词表之外的东西蜗轮、弹簧、凸轮、花键、活页铰链……正确答案是{unsupported: ...}而不是近似替换自纠正轨迹由诊断信息驱动的错误尝试 → 修正过程其中坏尝试的部分做了 loss-mask不让模型学会犯错。训练本身并不重LoRA r16配置见 lora/adapter_config.json基于unsloth/gemma-4-12b-it2 个 epoch单张 RTX PRO 6000 跑了约 10.5 小时成本大约 7 美元。有一个很容易被忽视的工程细节模型只对 train_sys.txt 里这一个系统提示词负责。换一句话的提示词都可能让它失忆所以这个文件是仓库里的必备件推理时必须原样使用。GRPO 阶段把 CAD 验证器直接当奖励 ⚡SFT 之后项目没有用常见的奖励模型 LLM 裁判那套组合而是把constraint-kit 的 DSL 验证器当成奖励函数你的程序能不能通过检查、能不能真正构建、几何签名离目标有多近直接折算成分数。混合信号70% 拒绝样本 30% 难建件样本共 150 步效果静默建错变体该拒绝却偷偷建了个近似的从 2/10 降到 1/10正确拒绝升到 9/10正常建件 6/6 不回退。整个训练SFT GRPO的租卡总成本约35 美元——对想复现这类工作流的人来说这是个很有参考价值的数字。被放弃的实验图像转 CAD 为什么失败了 这是仓库里最值得读的一段负面结果也是本文标题的由来。作者另外训练了一个多模态图像→CAD 的 LoRA给它渲染图看它能不能还原出对应的 CAD 程序。听起来很美但测试结果很尴尬在确认图片确实被送进模型的前提下有渲染图时的得分是 52%没渲染图时是 47%5 个点的差距完全落在噪声范围内——也就是说图片基本没用复盘发现模型无视了画面内容转而依赖包围盒bounding box这种粗粒度线索来猜答案。结论很直白这条路暂时走不通实验报告写进了仓库但权重不随模型发布。对新手读者这个案例的价值在于提醒多模态 ≠ 把图喂进去就行输入真的被利用了必须先被验证否则你优化的可能只是一个 47% 的基线。仓库文件清单拿到的都是什么 文件说明gemma4-12b-constraintkit-grpo-Q6_K.gguf最终模型SFT GRPOQ6_K 量化约 9.8 GB供 llama.cpp 使用lora/adapter_model.safetensors同款模型的 PEFT LoRA 适配器r16仅 251 MB可叠加到基座模型上lora/adapter_config.jsonLoRA 配置目标模块、alpha、秩等train_sys.txt训练使用的原版系统提示词推理时必须原样使用README.md完整文档用法、结果表格、训练过程与局限性如何本地运行llama.cpp 两步启动 先获取仓库git clone https://gitcode.com/hf_mirrors/jajmangold/gemma-4-12b-constraintkit-GGUF然后用 llama.cpp 起服务一行命令llama-server -m gemma4-12b-constraintkit-grpo-Q6_K.gguf -c 8192 -ngl 99 --port 8086推理要点完整脚本见 README.md用原始/completion接口系统轮以|think|模式 token 开头遇到turn|停止生成建议temperature 0.2、top_p 0.95输出取最后一个channel|之后的内容即去掉思考过程只留 JSON 程序拿到 JSON 后发到 constraint-kit 服务校验并构建POST /dsl/verify、POST /build。局限性它明确不会什么 ⚠️它只认识 train_sys.txt 里的词表spacer、spur_gear、plate、shaft、washer、nut、bolt、panel、link、housing、sheet_bracket外加几个维生素库零件NEMA 步进电机、齿条、蜗杆、直齿锥齿轮、指节铰链——别的应该拒绝而不是硬凑拒绝仍是短板大约每 10 个不支持的请求里还有 1 个会被建成近似件正式使用请永远把输出过一遍 constraint-kit 的验证器再相信几何。写在最后负面结果为什么值得公开 gemma-4-12b-constraintkit 给出的样本不大4 万行 SFT、150 步 GRPO、35 美元成本但它做对了几件常被跳过的事用确定性验证器当奖励而不是让模型互相打分把诚实拒绝当成一等公民写进数据和训练目标实验失败也记录在案图像转CAD 的 52% vs 47% 被原样披露而不是悄悄删掉。对做 AI 工程方向的新手来说这套数据工厂 可验证奖励 公开负面结果的打法比单看 93% 的通过率更值得抄作业。Apache-2.0 许可与 Gemma 4 基座一致constraint-kit 本身为 MIT。赞分享【免费下载链接】gemma-4-12b-constraintkit-GGUF项目地址https://ai.gitcode.com/hf_mirrors/jajmangold/gemma-4-12b-constraintkit-GGUF点击查看免费下载相关推荐从一句话到STEP文件gemma-4-12b-constraintkit文生CAD上手实操与首次构建体验从一句话到STEP文件gemma 4 12b constraintkit文生CAD上手实操与首次构建体验 gemma 4 12b constraintkit如何用一句话搭建机械装配体gemma-4-12b-constraintkit完整概览93%成功率的本地文生CAD模型如何用一句话搭建机械装配体gemma 4 12b constraintkit完整概览93%成功率的本地文生CAD模型 gemma 4 12b constraAMD官方Gemma 4 12B W4A16量化模型gemma-4-12B-it-w4a16-llmcompressor完全指南CPU无GPU也能跑12B多模态LLMAMD官方Gemma 4 12B W4A16量化模型gemma 4 12B it w4a16 llmcompressor完全指南CPU无GPU也能跑12B多模人工智能大模型模型量化本地部署多模态创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考