如何快速部署 Claw Compactor Proxy:多 Worker 负载均衡 + 实时监控仪表盘完整教程
如何快速部署 Claw Compactor Proxy多 Worker 负载均衡 实时监控仪表盘完整教程【免费下载链接】claw-compactor14-stage Fusion Pipeline for LLM token compression — reversible compression, AST-aware code analysis, intelligent content routing. Zero LLM inference cost. MIT licensed.项目地址: https://gitcode.com/gh_mirrors/cl/claw-compactorClaw Compactor Proxy是一个将 Claude Code CLI 包装成 OpenAI 兼容 API 的本地代理网关属于 LLM Token 压缩工具链 Claw Compactor 的配套设施。它支持多 Worker 轮询负载均衡、会话亲和路由、公平排队、按模型限流并内置一个实时监控仪表盘让你随时掌握 Worker 流量、Token 消耗与错误分布。本教程将带你用 5 个步骤完成部署。一、Claw Compactor Proxy 是什么Proxy 位于仓库的 proxy/ 目录核心能力一览多 Worker 轮询多个 Claude Code CLI 实例独立配额流量自动分摊会话亲和同一对话 30 分钟内固定路由到同一 Worker保住速率预算公平队列多来源请求轮流调度支持 high / normal / low 优先级实时仪表盘Token 用量、时序图表、SSE 直播流、Worker 流量分布一屏尽览进程回收器自动清理超时与僵尸 CLI 进程Token 计量按模型统计输入 / 输出 TokenRedis 持久化失败重试指数退避 抖动Worker 故障自动切换架构链路非常简单客户端 (OpenAI 格式) → Proxy → 公平队列 → Worker 池 → Claude CLI → 响应更多细节可参考 proxy/README.md。二、一键部署4 步完成搭建第 1 步克隆仓库并安装依赖git clone https://gitcode.com/gh_mirrors/cl/claw-compactor cd claw-compactor/proxy npm install第 2 步配置多 Worker 池通过WORKERS环境变量传入 JSON 数组每个 Worker 绑定独立的 Claude Code OAuth Token从而拥有独立的速率配额——这正是多 Worker 负载均衡能翻倍吞吐的关键[ {name: 1, bin: /path/to/claude, token: oauth-token-1}, {name: 2, bin: /path/to/claude, token: oauth-token-2} ]未配置时服务会使用 proxy/server.mjs 中内置的默认 Worker 池。第 3 步设置端口与鉴权export WORKERS[{name:1,bin:/path/to/claude,token:your-token}] export CLAUDE_PROXY_PORT8403 export PROXY_AUTH_TOKENlocal-proxy # 生产环境请换成强密钥建议同时将 WORKERS 环境变量 写入.env或 shell 配置避免重启丢失。第 4 步启动服务npm start # 前台运行也可以直接使用 proxy/start.sh 脚本它会自动停掉旧进程加--bg参数可后台运行日志写入/tmp/claude-proxy.log./start.sh --bg看到[CLIRouter] Pool: 1... | 2...的启动日志说明 Worker 池加载成功 三、多 Worker 负载均衡是怎么工作的这是 Proxy 最有价值的部分由三个模块协同完成模块文件作用轮询路由proxy/server.mjs流量按 round-robin 分摊到各 Worker遇速率限制自动整体切换到备用 Worker恢复后再回到负载均衡会话亲和proxy/session-affinity.mjs按x-session-id→ 系统提示词指纹 → 来源 三级优先级生成会话键30 分钟 TTL保证多轮对话落在同一 Worker公平队列proxy/fair-queue.mjs多来源轮流取号防止单一来源霸占全部并发内置租约机制防止并发槽位泄漏配合 proxy/rate-limiter.mjs 的 60 秒滑动窗口限流和 proxy/retry.mjs 的指数退避重试即使某个 Worker 触发 429请求也会被透明地转发到健康节点客户端几乎无感。四、打开实时监控仪表盘服务启动后浏览器访问http://localhost:8403/dashboard/proxy仪表盘proxy/dashboard.html提供以下实时视图Token 总览条总量 Opus / Sonnet / Haiku 分模型统计含速率窗口时序图表按时间区间的 Token 与请求量曲线Worker 流量分布每个 Worker 的请求数、错误数、最近活跃时间⚠️错误分类统计CLI 崩溃、上下文溢出、超时等 7 大类一目了然SSE 直播流请求事件实时滚动另附活跃进程表与事件日志除可视化页面外还有 4 个运维接口方便脚本化监控接口用途GET /health健康检查GET /metrics队列、进程、Token、Worker 统计JSONGET /events事件日志轮询GET /streamSSE 实时事件流五、常用调优参数速查按需调整环境变量即可无需改代码变量默认值说明MAX_CONCURRENT10最大并发 CLI 进程数MAX_QUEUE_TOTAL100队列总容量MAX_QUEUE_PER_SOURCE20单来源最大排队数QUEUE_TIMEOUT_MS120000排队超时毫秒MAX_PROCESS_AGE_MS1800000CLI 进程最长存活时间MAX_IDLE_MS600000空闲回收阈值进程生命周期由 proxy/process-registry.mjs 守护每 15 秒巡检一次超过存活时长或 2 分钟无输出的进程会被自动收割状态还会持久化到 Redis见 proxy/redis-client.mjs重启后指标不丢失。六、日常运维小贴士 查僵尸进程访问GET /zombies查看巡检结果POST /kill可手动终止指定 CLI 进程看 Token 账本proxy/token-tracker.mjs 按模型与请求两级记账数据落盘data/tokens.json跑测试cd proxy npm test可验证队列、限流、亲和等核心模块行为测试位于 proxy/test/生产安全务必修改PROXY_AUTH_TOKEN默认值local-proxy仅适合本地调试总结Claw Compactor Proxy 用不到 10 个环境变量就能搭起一套多 Worker 负载均衡 实时监控的 LLM 代理网关npm install→ 配置WORKERS→ 启动 → 打开仪表盘全程 5 分钟。无论是想让多个 Claude Code 实例共享额度还是为团队搭建统一的 OpenAI 兼容入口它都是开箱即用的选择。更多设计细节可阅读 proxy/README.md 与 ARCHITECTURE.md。【免费下载链接】claw-compactor14-stage Fusion Pipeline for LLM token compression — reversible compression, AST-aware code analysis, intelligent content routing. Zero LLM inference cost. MIT licensed.项目地址: https://gitcode.com/gh_mirrors/cl/claw-compactor创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考