llamafile 怎么修改子模块代码并用官方工具生成与验证补丁【免费下载链接】llamafileDistribute and run LLMs with a single file.项目地址: https://gitcode.com/GitHub_Trending/ll/llamafile如果你的任务是在 llamafile 仓库中修改llama.cpp等子模块的代码并把修改固化成可提交、可随上游更新存活的补丁那么官方规定的完整路径是在子模块内直接改代码 → 证明修改能通过构建和测试 → 用 tools/generate_patches.sh 生成补丁 → 用reset-reposetup 干净构建 测试做闭环验证。整个过程只针对已克隆的 llamafile 源码树工具链是项目自带的 cosmocc4.0.2。为什么子模块改动必须走补丁工作流llamafile 的llama.cpp、whisper.cpp、stable-diffusion.cpp都是 git 子模块指向上游的固定 commit。直接提交到子模块里的改动在更新子模块时会丢失而补丁机制可以在子模块升级后把修改重新放回去见 docs/skills/llamafile/development.md。每个子模块对应一个补丁目录以llama.cpp为例llama.cpp.patches/ ├── README.md # 补丁说明 所有补丁及其用途清单 ├── apply-patches.sh # 把所有补丁应用到 llama.cpp 子模块的脚本 ├── renames.sh # 文件重命名/移动脚本如有 ├── llamafile-files/ # 需要拷入子模块的附加文件如 BUILD.mk └── patches/ # 针对上游源码的 .patch 文件make setup会先把子模块重置到干净状态再按字母序逐个应用patches/下的.patch最后把llamafile-files/里的文件拷进子模块。准备条件初始化工作区先克隆仓库并运行make setup它负责初始化子模块、应用补丁并自动下载 cosmocc 工具链首次运行有网络下载动作。之后用git submodule status确认子模块状态-表示未初始化表示与记录 commit 不一致空格表示干净。注意两种 make 的分工make setup和make reset-repo用系统裸make它们豁免 cosmocc 版本检查setup还要负责引导下载工具链其余构建目标一律用.cosmocc/4.0.2/bin/make不要用系统 make 做构建见 docs/skills/llamafile/building.md。第一步直接在子模块里改代码进入子模块目录直接编辑源文件而不是去改patches/下的补丁文件cd llama.cpp # 修改你的目标文件文档中的示例 vim src/llama.cpp如果不确定某个文件历史上被哪个补丁改过可以这样定位grep -l llama.cpp/src/llama.cpp llama.cpp.patches/patches/*.patch官方文档明确禁止用git diff手工制作补丁generate_patches.sh会重写a/、b/路径为仓库根相对路径、剥掉易变的index行、按约定命名文件并把未跟踪的新文件路由到llamafile-files/裸git diff这几件事都会做错见 docs/commands/generate-patches.md。第二步先证明修改可用再生成补丁生成补丁前必须先在脏树上验证修改是好的干净构建成功、单元测试通过、llamafile 能按预期运行。文档强调“从未经证明的编辑生成补丁会把破坏性改动固化进去”from unproven edits bakes in breakage。命令如下llamafile:build/llamafile:clean/llamafile:check是文档中对应变体.cosmocc/4.0.2/bin/make clean .cosmocc/4.0.2/bin/make -j $(nproc) # macOS 上换成 -j$(sysctl -n hw.physicalcpu) .cosmocc/4.0.2/bin/make check # 单元测试只有构建和测试都是绿色之后才进入生成补丁这一步。第三步用 generate_patches.sh 生成补丁以最常见的llama.cpp子模块为例工具是通用的whisper.cpp、stable-diffusion.cpp只要把目录和输出路径换掉即可( cd llama.cpp echo y | ../tools/generate_patches.sh --output-dir ../llama.cpp.patches )这条命令的几个组成部分都有明确用途子 shell( ... )保证即使工具中途失败外层工作目录也不会残留echo y非交互地回答脚本的确认提示--output-dir指定输出目录不传时默认为./candidate_patches见脚本内--help。脚本的实际行为对照 tools/generate_patches.sh 源码对每个已跟踪且有改动的文件执行git diff去掉第二行的index行把--- a/、 b/路径加上子模块目录前缀写入output-dir/patches/补丁文件名按路径命名斜杠替换为下划线例如common/arg.cpp的改动生成common_arg.cpp.patch未跟踪的新文件含子模块里一定存在但可能被 gitignore 的BUILD.mk被拷贝到output-dir/llamafile-files/目录结构与子模块内路径保持一致结束时打印摘要生成了几个补丁、拷贝了几个新文件。所以最终产物落在llama.cpp.patches/patches/修改类补丁和llama.cpp.patches/llamafile-files/新增文件包括BUILD.mk。第四步核对产物并清理废弃补丁两个必须知道的特性工具只写、只覆盖从不删除。如果某个补丁已经不再需要例如上游已经吸收了该改动它的旧.patch文件仍会留在patches/里并继续被setup应用。需要手动git rm每个废弃补丁然后确认数量符合预期ls llama.cpp.patches/patches | wc -l生成后可以用git diff复核子模块内哪些文件被修改/新增与产物一一对应。如果你新增了源文件除了让它被工具路由进llamafile-files/还要把新文件加进子模块的BUILD.mk源文件列表否则构建时会出现链接期的undefined reference见 docs/skills/llamafile/development.md 中 “Updating BUILD.mk” 一节# llama.cpp.patches/llamafile-files/BUILD.mk LLAMA_SRCS \ llama.cpp/src/llama.cpp \ llama.cpp/src/new-file.cpp # 新增的源文件加在这里 LLAMA_OBJS $(LLAMA_SRCS:%.cppo/$(MODE)/%.o)第五步用 verify-clean 干净闭环验证这是生成补丁后的标准验证对应llamafile:verify-clean命令完整命令见 docs/commands/verify-clean.md重置 → 重新拉子模块并应用补丁 → 干净构建 → 跑测试# 确保工具链可用make setup 已下载过则可跳过该脚本会从网络下载并校验 SHA256 if [ ! -d .cosmocc/4.0.2 ]; then build/download-cosmocc.sh .cosmocc/4.0.2 4.0.2 85b8c37a406d862e656ad4ec14be9f6ce474c1b436b9615e91a55208aced3f44 fi make reset-repo # 丢弃所有本地改动重置全部子模块 make setup # 拉取子模块 应用补丁 拉取 UI 资产 .cosmocc/4.0.2/bin/make clean # 丢弃陈旧构建产物 .cosmocc/4.0.2/bin/make -j$(nproc) # 干净构建macOS 用 -j$(sysctl -n hw.physicalcpu) .cosmocc/4.0.2/bin/make check # 单元测试执行前必须清楚两个副作用make reset-repo是破坏性操作它会rm -rf每个子模块目录再恢复见 Makefile 的reset-repo目标子模块里所有未固化为补丁的本地改动都会丢失。所以它只能在补丁已生成之后运行权限受限的环境可能会拦截裸make此时可改用等价的.cosmocc/4.0.2/bin/make reset-repo形式verify-clean 文档中的写法。为什么必须make clean再构建reset-repo/setup之后子模块源码变了但时间戳不一定更新增量make会链接到陈旧的目标文件所以这里不能做增量构建。判定标准setup阶段所有新补丁都能重新应用到干净树上任何补丁损坏都会在此报错随后干净构建成功、单元测试通过。文档给出的结论是——绿色闭环证明提交中的补丁集合内部一致。另外注意make setup无法在脏树上拉子模块这正是先reset-repo的原因。提交补丁集验证通过后按惯例提交提交信息示例来自 docs/skills/llamafile/development.mdgit add llama.cpp.patches/patches/new-patch.patch git commit -m llama.cpp: Add feature X文档同时要求在提交前过一遍清单补丁能从全新克隆干净应用、llamafile:build成功、llamafile:check通过、补丁聚焦且有说明、新增文件时BUILD.mk已更新。如果补丁有增删或大改还应同步更新 llama.cpp.patches/README.md 中的补丁清单。验证能力的边界verify-clean 只在宿主机上验证 CPU 构建。它不覆盖 GPU 运行时后端CUDA/ROCm/Vulkan/Metal 的 DSO 在目标机上运行时编译、非宿主平台、Web UI 和长时间运行稳定性——如果你的改动触碰了ggml-cuda/*、ggml-vulkan/*、ggml-metal/*下的代码需要在对应硬件上补做冒烟测试见 docs/skills/llamafile/update_llamacpp.md 的交接清单。如果你的目的不是修改子模块而是把它整体升级到新的上游版本那是另一套流程check_patches.sh分诊、apply-patches.sh --tolerant调和再生成按 docs/skills/llamafile/update_llamacpp.md 逐步执行本文的 generate → verify-clean 闭环同样是它的收尾步骤。【免费下载链接】llamafileDistribute and run LLMs with a single file.项目地址: https://gitcode.com/GitHub_Trending/ll/llamafile创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考