资讯详情

我们在联想 ThinkStation PGX 上搭了一个“AI 编辑部“

📅 2026/10/14 2:43:30 | 华诺云谱 👁 阅读
我们在联想 ThinkStation PGX 上搭了一个“AI 编辑部“
在输入框里只敲了五个字“本周的选题”随后屏幕上的工具调用记录一行行滚过分析账号定位、生成检索条件、搜索近期内容、排出候选题。我们选定一个它又去补资料、搭大纲、写初稿……这不是一次简单的模型问答这是我们最近在桌面上搭建的“AI 编辑部”在里面工作的是一个Agent。Agent 每调用一次工具都要把相关资料和上下文重新交给模型任务越长计算和内存的压力越大。所以我们把 gpt-oss-120b 部署到联想 ThinkStation PGX看这样一条完整的写作流程能不能整个跑在桌面上的一台主机里。把一篇文章拆成三道工序测试开始前我们没有给模型一个“写篇文章”的提示词因为真实创作不会仅仅是一次问答。我们把过程做成一套写作 Skill分成选题、资料与大纲、成稿三个阶段。第一阶段Agent 先分析账号过往内容和定位自动生成检索条件再去海外网站寻找近期内容。找回来的材料还要经过账号的选题和传播规则筛选最后输出 5 个候选题并解释推荐理由。我们选定一个题后第二阶段启动。Agent 围绕它做新一轮检索把相关报道、产品资料和用户反馈补齐随后整理切入角度、核心问题和章节顺序。大纲由我们确认才进入第三阶段。写作时模型同时读取来源笔记、大纲和一组事先整理好的风格规则。这些规则不是一句“写得像某某账号”而是具体到开头怎么起、段落怎么组织、语言怎么控制以及编辑平时会改掉哪些表达。系统还预留了一个反馈环节把人工修改稿交回去它会比较前后差异提炼成新规则编辑确认后下次任务可以继续使用。到这里测试对象已经不是模型能否写出几段文字而是一条需要多轮调用、长上下文和人工把关的工作链。1200 亿参数模型如何在桌面上站稳这次使用的 gpt-oss-120b 是 120B 级 MoE 模型。OpenAI 官方模型卡显示权重检查点约 60.8GiB在我们的量化和运行配置下服务启动后的占用约 65GB。这个数字不是所有部署的固定值但足以说明门槛单张32GB 显存显卡无法完整容纳这套配置的启动占用。而且装下模型只是开始。Agent 读入的资料越多、对话越长KV Cache 占用通常就越大如果同时跑多个任务内存压力还会继续增加。对这类工作流来说可用内存本身就是实际性能的一部分。ThinkStation PGX 搭载 NVIDIA GB10 Grace Blackwell 超级芯片提供 128GB 统一内存CPU 和 GPU 可以共享同一片内存池官方标称的 AI 算力峰值为 1 PFLOP前提是 FP4 精度和稀疏计算。选择它的原因很直接先给 120B 级模型留出空间再给上下文缓存和工具链保留余量同时把整套环境放进桌面设备。模型部署完成后我们记录了三项结果服务启动约 17.8 秒首 token 延迟约 0.66 秒持续生成速度约 31.8 token/s。它们来自这次具体配置的一次测试量化方式、输入长度、推理设置以及冷启动或热启动都会改变结果。这组速度足以让我们继续测试多步骤流程。随后我们用 Hermes 接入本地模型让它负责工具调用和任务编排并完成了本地服务连接与工具调用测试。从本周的选题到完整初稿正式运行时我们只输入“本周的选题”。Agent 先读取账号定位和既有规则再开始检索、筛选和排序。多步工具调用之后屏幕上出现了 5 个候选题每个题目不只有一句标题还附带了推荐理由方便我们判断是否值得继续。我们选择第一个选题后流程没有马上开写。它先进行第二轮资料搜集把不同来源的信息汇总成笔记再据此生成文章大纲和写作逻辑。我们检查了核心问题、切入角度和章节顺序确认后才让它继续。接下来Agent 把资料、大纲和写作规则一起交给本地模型生成完整正文和一组备选标题。等待过程中可以看到检索、读取、整理和写作分成不同步骤执行。这也解释了为什么 Agent 任务会不断拉长上下文主要负担不仅在最后的文字生成也在前面反复携带资料和调用工具。最终产物约 3000 字具备完整的开头、章节结构和结尾标题也与正文主题对应。从成稿状态看它已经可以进入人工终审而不是从零重写。我们仍会核对外部资料、调整判断强弱、处理不适合直接发布的表述。选题取舍、大纲确认和事实责任并没有因为模型在本地运行而消失。这里还要划清“本地”的边界。模型推理、未发布稿件、内部资料和写作规则可以留在本机处理但搜索公开资料仍需联网外部工具能看到哪些文件也取决于权限配置。把模型搬回桌面不能自动替代数据访问管理。一台本地 AI 工作台的边界跑完这条流程后我们得出的结论很具体。ThinkStation PGX 在本次配置下跑得动 120B 级 MoE 模型也能通过 Hermes 与定制 Skill 完成从选题、资料整理、大纲到约 3000 字初稿和备选标题的一次完整流程。128GB 统一内存的价值在这里很清楚它先容纳模型再为长上下文留下空间。这次测试没有证明本地一定比云端便宜、快或安全。设备采购、功耗与维护都是成本公开检索仍需联网权限边界还要单独配置。我们也没有做云端对照、长时间稳定性、并发和事实错误率测试因此不应把一次跑通扩展成全面领先。PGX 更适合高频生产内容、处理内部文档或反复调试模型与 Agent 的团队。偶尔写一两篇稿件的个人用户很难仅靠省下的 API 费用摊平整套设备。企业还要把采购、数据管理和维护能力一起算进去。这次评测之后我们更愿意把 ThinkStation PGX 看作一张可以部署本地大模型和 Agent 的工作台。它把模型、资料和流程留在桌面上选题、判断和最终责任仍然在编辑手里。
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。

↑