【免费下载链接】local-studioControl panel for VLLM, Sglang, llama.cpp, exllamav3项目地址https://gitcode.com/gh_mirrors/vl/local-studio点击查看免费下载Local Studio 是一款本地优先local-first的macOS 桌面应用控制面板用于在自有机上运行和管理大模型它统一托管 vLLM、SGLang、llama.cpp 与 MLX 等推理后端一条命令完成模型下载、引擎安装、模型启动并实时查看 GPU/内存状态、用量统计同时对外提供 OpenAI 兼容 API 代理。对新手来说它是下载 → 安装 → 向导选模型 → 看到第一个 token的全流程图形化工具全程几乎不需要碰命令行。一、Local Studio 是什么可以把 Local Studio 理解为一台本地大模型工作站的驾驶舱它由两个模块组成详见 README.md模块作用controller/Bun/Hono 后端进程负责模型生命周期启动/驱逐/配方、模型下载、OpenAI 兼容代理、GPU 指标、日志与用量frontend/Next.js React 界面与 Electron 桌面外壳包含状态页/、工作台/agent、配置页/configure、用量页/usage在 macOS 上桌面应用通过MLX 后端利用 Apple Silicon 的统一内存跑模型无需 NVIDIA 显卡同一套界面也支持把界面指向远程 GPU 主机上的 controller。二、开始之前确认你的 Mac 硬件环境 桌面版发布包目前面向Apple SiliconM 系列芯片的 Mac。MLX 走统一内存内存越大能跑的模型越大参考 shared/model-recommendations.json 中的实测目录常见组合如下模型MLX 版文件大小建议统一内存LFM2.5-8B-A1B4bit约 5 GB36 GBM4 Max 起步Nemotron-3-Nano-30B-A3B8bit约 31 GB64 GBM4 Pro/M5 ProNemotron-3-Ultra-550BMLX约 336 GB512 GBM3 Ultra Mac Studio16GB 内存的入门款 Mac 也完全可用选择 8B 及以下、4bit 量化的模型即可下载体积仅几个 GB。三、步骤 1下载并安装 Local Studio DMG一键安装步骤到官方 Releases 页面下载最新的macOS (Apple Silicon) DMG文件名为Local-Studio-arm64.dmg。该发布包经过签名与公证notarized后续还会从 Releases 自动更新。双击挂载 DMG把Local Studio图标拖入Applications应用程序文件夹。在启动台或应用程序中打开Local Studio首次运行如遇 macOS 安全提示选择打开即可——它是已公证的 App能通过 Gatekeeper 校验。如果你偏好脚本安装仓库自带 scripts/install-desktop-app.sh它会下载最新稳定版 DMG、执行codesign --verify与spctl公证校验后再装入/Applications并为旧版本自动建立可回滚的备份归档。四、步骤 2首次启动向导——设置模型目录与硬件确认 首次启动应用会自动跳转到/setup向导逻辑见 use-first-run-redirect.ts机器上没有任何已保存的配方就强制进入向导。整个向导只分 3 步对应源码 setup-view.tsx 中的三个界面Step 1 of 3 — Station站点顶部自动显示本机摘要系统、CPU 架构、GPU 数量、内存大小如macOS · arm64 · 1 GPU · 64 GB唯一需要你动手的是确认模型权重存放目录默认/models点Continue保存。Step 2 of 3 — Model选模型界面会按在你的这类硬件上实测过的预设排序推荐模型并直接标出实测生成速度tokens/s不选预设也可以手动输入任意模型 IDApple Silicon 机器会自动把可选后端锁定为MLX见 step-hardware.tsx。五、步骤 3下载、启动服务、拿到第一个 tokenBring-up 界面把下载 → 服务 → 首 token做成了一个实时清单三行状态会自动逐条打勾见 step-bringup.tsxDownload进度条实时刷新支持暂停/继续/取消Serve with MLX自动安装引擎、创建配方并启动模型服务进程First tokens点Send test request发起一次内置基准测试通过后即可直接进入Chat 对话页或Dashboard 状态页。看到回答逐字刷出来就恭喜你了——你的本地大模型已经跑起来了 ✅六、跑通之后把本地模型接入你自己的程序Controller 默认监听127.0.0.1:8080并暴露 OpenAI 兼容接口API 一览见 controller/README.md。任意使用 OpenAI SDK 的程序把 Base URL 指向本地即可OPENAI_BASE_URLhttp://127.0.0.1:8080/v1另外它同样透传 Anthropic Messages APIANTHROPIC_BASE_URLhttp://127.0.0.1:8080用量页/usage可以查看每个模型的推理消耗与会话统计。七、常见问题速查问题解决方法提示无法连接 controller应用内直接点Install local controller一键本机安装自动注册为 macOS launchd 常驻用户服务登录自启入口见 setup-view.tsx安装逻辑在 controller-deploy.ts想手动重装/升级重新跑 scripts/install-desktop-app.sh旧版本会被打包到~/Library/Application Support/Local Studio Installer/Rollbacks便于回滚想跑 NVIDIA 显卡主机上的模型用 vLLM/SGLang 后端在 GPU 主机部署 controller再把本应用指向远程地址即可更多模型怎么选查阅 docs/models-catalog.md 模型目录与硬件匹配表八、进阶从源码运行给开发者如果想参与开发或定制可克隆仓库后按 README.md 的 Quick Start 操作git clone https://gitcode.com/gh_mirrors/vl/local-studio cd local-studio npm run doctor # 校验工具链Bun 1.3.14、Node 22.19、Python 3.10 npm run setup # 安装全部工作区依赖bun --cwd controller run dev # 终端 1启动 controller127.0.0.1:8080 npm run dev # 终端 2启动前端打开 localhost:3000/setupnpm run desktop:dist # 构建并打包 macOS 桌面应用DMG 更新包小结3 步回顾① 下载 DMG 拖入 Applications → ② 跟随向导设置模型目录并选择适配内存的 MLX 模型 → ③ 等待清单三行打勾进入 Chat 页。从此你的 Mac 就是一台离线可用的大模型服务器并且随时能以127.0.0.1:8080/v1的 OpenAI 兼容接口服务其他程序。赞分享【免费下载链接】local-studioControl panel for VLLM, Sglang, llama.cpp, exllamav3项目地址https://gitcode.com/gh_mirrors/vl/local-studio点击查看免费下载相关推荐2024最新Neutrino安装教程从零基础到启动第一个项目只需5分钟2024最新Neutrino安装教程从零基础到启动第一个项目只需5分钟 Neutrino是一款能够帮助开发者零配置创建和构建现代JavaScript项目的强大Hypit 安装教程一条命令装好 Skill跑通第一个视频只需 3 个步骤Hypit 安装教程一条命令装好 Skill跑通第一个视频只需 3 个步骤 Hypit 是一个开源的 AI 视频克隆工具它给 Claude Code、Co人工智能AI 应用AI 技能音视频媒体生成DLSS Swapper 完整指南3 步搞定游戏中 DLSS/FSR/XeSS 版本更换DLSS Swapper 完整指南3 步搞定游戏中 DLSS/FSR/XeSS 版本更换 新装的游戏刚开几小时你才发现它的 DLSS 还是两年前的老版本——桌面应用创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考