AI 折腾日志：我把 AI 从网页搬回了自己家

两个月前，我在一台最低配的阿里云主机上装了 Hermes——一个开源的 AI 智能体。今天早上我用手机在 QQ 里问它”上周那批零件报价的原始记录在哪”，它翻完三台电脑同步过来的笔记，把文件路径和当时的判断一起发了回来。

---

这两个月我基本没写代码，就是买零件、接线、调试：一台常年开着的云主机，一台带显卡的主力机，家里那台本来准备吃灰的旧电脑，再加一个 QQ 机器人、一个本地大模型、一套出图流水线。

接完之后最大的感受不是”效率提升了多少”，而是这东西是我的。网页版的 AI 是租来的：数据在别人的机器上，记忆按次清零，涉密的图纸我一个字不敢往上贴。装在自己家里的这套，图纸不出局域网，断网也能跑。

下面按我实际走的顺序记一遍，七段路。写给想自己搭一套的同行，也写给半年后的自己，那时候我肯定已经忘了当时卡在哪。

一、先认识主角：Hermes 智能体

先把主角交代清楚，否则你会以为下面这些操作都是我敲的。装软件、改配置、写笔记、出图、把文章部署上博客、再逐项验收，一件都不是我干的——是一个叫 Hermes 的智能体替我干的。

Hermes 是一个开源的 AI 智能体（Nous Research 出的），可以跑在你自己的电脑或服务器上，终端、桌面窗口、手机消息里都能用。有一点必须先分清：它本身不带”智能”。智能来自你给它接的大模型 API——国内国外的都行，也可以接你自己机器上的本地模型。Hermes 提供的是手脚、记忆和入口：

• 手脚：读写文件、跑命令、开浏览器、调外部程序，还能定时自己干活；
• 记忆：跨会话记住你是谁、你的偏好、上次在哪儿踩过坑；
• 技能：把一套复杂流程存成”技能文档”，下次同类活直接照着做。我这套里 QQ 接入、多机同步、博客发布，全是这么沉淀下来的；
• 入口：同一个它，能从 QQ、微信、接口多个地方叫起来，不是只会在终端里聊天。

它在这两周里替我做过的事，随手列一部分：装好桌面端和命令行、写好 QQ 机器人的接入、把我的笔记库接进来、配好本地模型和云模型的切换、出了三张配图和一张封面、把文章编译部署到线上并且逐项验收。

我做的事其实只有两件：把 API 的钥匙交给它，然后说清楚我要什么。所以后面七段，与其说是”我怎么折腾”，不如说是”我怎么指挥它折腾”。

二、先用一台云主机，当”常驻大脑”

第一站为什么放在云上，不放在自己的电脑上？理由很实际：我不可能让台式机 7×24 开机，但一个随时能被手机找到的助理，必须一直在。

选的是最便宜那档，2 核 CPU、不到 2G 内存、40G 硬盘，一年下来不值多少钱。它跑不动任何模型，也不需要跑。云主机在这套体系里只是个中枢：接消息、存记忆、派任务、给两台电脑牵线。真正吃算力的活，全部落在本地那台带显卡的机器上。

顺手把博客也放在这台机器上，同一个域名，配好 HTTPS 和备案。写文章和用助理本来是一套流程，放一起最省心。

这一段踩的坑不在系统，在网络。国内装 GitHub 上的东西基本要绕：直连不通，以前常用的几个加速站也一个个失效了，最后换成能用的代理重写地址，安装流程才跑通。如果你也卡在这一步，先别怀疑自己的操作，问题在路线上。

照着做 · 云主机

1. 装：一台最低配云主机就够（2 核 / 2G / 40G），Linux 上一行安装脚本把 Hermes 本体装好；
2. 说：把它挂成常驻服务，别用前台会话跑；
3. 验收：手机或终端里能把它叫起来，问一句有回话。

• 坑：国内装 GitHub 上的东西先测网络，别照抄别人的办法。

三、把 Hermes 装到主力机上

云上有中枢，本地要有手。主力机是 Windows，带一块 16G 显存的显卡，装了 Hermes 的桌面端和命令行两个入口（Windows 上跑官方 installer，装完敲 hermes 就能起会话，hermes doctor 自己体检）。分工是：客户端我用来盯着它跑任务、看实时进度；命令行用来跑批处理和脚本。哪边顺手用哪边。

装完第一件事是让它继承云上那台的技能和记忆，不然两边等于两个陌生人。这部分最后一节细说。

坑出在杀毒软件上。我有些自动化脚本用的是”隐藏窗口 + 绕过执行策略”的启动方式，杀软直接判定成可疑行为，隔离了。这个没法讲道理，加白名单了事。装这类工具之前先看一眼杀软的隔离记录，能省掉半小时的”为什么昨天还好好的”。

照着做 · 装 Hermes

1. 装：Windows 上跑官方 installer，桌面端和命令行一起装上；
2. 说：敲 hermes 起会话，hermes doctor 让它自己体检，hermes model 换模型；
3. 验收：你让它读一个文件，它能把内容读出来。

• 坑：把”隐藏窗口 + 绕过执行策略”那类启动脚本先加进杀软白名单。

四、给它配一个 QQ 机器人

通道为什么选 QQ？不是因为它好，是因为它够用——Hermes 自带消息网关，QQ 是它支持的一个平台适配器，配好就能用。

走官方开放平台建一个机器人应用，把使用范围收成只有我自己，再加一个自己的小群。好处有三个：不用在家里开公网端口，不用暴露 IP，手机掏出来就能派活。我现在的用法是——在车间想起一件事，发一句出去，回办公室活已经干完了。

微信那条路我也试过，不建议新手先碰：通道对长消息不友好，偶尔静默失败，界面没有任何异常，但你永远等不到回复。我的处理办法是重要提醒一律走 QQ。

这一节的教训是，通道要选能确认送达的。AI 助理最怕的不是答错，是你以为它收到了。

照着做 · 接 QQ

1. 装：QQ 官方开放平台建一个机器人应用，拿到应用凭证；
2. 说：把凭证交给 Hermes 的消息网关，使用范围收成自己 + 一个小群；
3. 验收：手机发一句能收到回复，白名单之外的人发消息它不理。

• 坑：微信通道长消息会静默失败，重要的事一律走 QQ。

五、让它读我的 Obsidian

我的笔记全在 Obsidian 里，一个本地文件夹，纯文本：产品的坑、故障卡片、方案、投资记录、写作素材。Hermes 的文件工具直接读写这个目录，不需要插件、不需要上传。

接进来很简单，把库的根目录写进配置文件的一个变量，再给它读写文件的权限。之后的工作流变成这样：我干活或者开车的时候口述一句”今天客户那台机器又出了什么问题”，它整理成带日期和分类的一条笔记，落进对应文件夹，事后我回来看它整理得准不准。省的不是打字时间，是”当场不记，回头就想不起来”。你想想，一天里有多少件这种小事？

有两个细节我专门记下来了，都是踩过之后才明白的。

第一，让它用文件工具读写，别让它在命令行里拼路径。库里的文件夹名带数字前缀和中文，还有空格，命令行少一个引号，结果就是往错的地方写文件。

第二，同一条笔记不要两台机器同时改。我的库用消费级云盘同步两份，如果一台还没同步完另一台就打开改，笔记会分裂出一个”冲突副本”。这个坑我踩过一次，之后定了规矩：一台机器写，写完等同步。

照着做 · 接笔记

1. 装：不用装，笔记本来就是一个本地文件夹；
2. 说：把库的根目录告诉它、给它读写权限，之后口述一句就能落一条笔记；
3. 验收：让它记一条，再让它按文件名找回来。

• 坑：别让它在命令行里拼路径；同一条笔记不要两台机器同时改。

六、把模型搬回本地

前面说过，涉密的 CAD 和 BOM 我不可能往外发。所以本地模型不是玩具，是这套体系能成立的前提。

给 Hermes 换模型不用改别的，只是换一个 provider：把它的接口指向本机的推理服务就行。主力机上跑的是 llama.cpp 这类直接吃 GGUF 文件的推理程序，我配了一大一小两个模型：

• 常驻的小模型，4B 量级，上下文开到 6 万 4 千，占 5G 左右显存，开机自启。日常整理、改写、读文件、调工具全是它在干，快，也不占地方。
• 按需的大模型，27B 量级，占 13.9G，出字速度 20 个 token 每秒上下。写复杂判断、读长文档才拉起来，用完关掉。

显存是硬约束，纪律也只能硬着定：两个模型共用同一个端口，要开大的先停小的；大模型开着的时候不要跑出图。我吃过一次亏，两边一起跑，输出慢到我以为死机了。

值不值得这么折腾？我觉得值。云 API 也没扔，遇到本地模型啃不动的活就切过去。顺序是本地优先、云端兜底，不能反：能本地跑的先本地跑，跑不动再出门。

照着做 · 换本地模型

1. 装：本机跑 llama.cpp 这类推理程序，起一个 OpenAI 兼容的接口；
2. 说：给 Hermes 换一个 provider，把接口指向本机地址；
3. 验收：断掉外网让它整理一段文字，还能干活就说明这条路通了。

• 坑：两个模型共用一个端口，开大的先停小的；大模型开着别出图。

七、ComfyUI：从玩票到真能接活

出图这一段，起点不是玩。Hermes 能调外部程序，所以出图链路上它负责发指令和收结果，底图归模型、叠字归代码。

我做设备设计，用 SolidWorks 出渲染图，客户经常不满意：材质不像、光影发假、背景一看就是电脑味。渲染参数我调了十几年，天花板就在那。那 AI 写实化为什么值得试？试过之后客户看图的反应明显不一样，这条线我打算做成一项增值服务。

技术上不复杂，麻烦在流程。我的做法是两段：

1. ComfyUI 出无文字底图。工业风、蓝图风、线稿风，尺寸按版式出，比如 1440×608。
2. 中文和数字用 PIL 叠上去。图里要出现的字，一个字都不让 AI 画，它会把字画成一堆像字的方块。

有一条线我划得很清楚，结构图和框架图不让 AI 画。要三个卡片它给你两个，要三根线它给你四根，元素数量永远对不上。AI 只负责版式和留白，槽位和中文我用代码画精确。

照着做 · 接出图

1. 装：ComfyUI 起在本机，Hermes 负责发指令、收结果；
2. 说：第一段出无文字底图（工业风 / 蓝图风 / 线稿风，1440×608 这种版式尺寸）；第二段用程序把中文和数字叠上去；
3. 验收：出三张底图，叠上中文标题，看字号和位置对不对。

• 坑：结构图、框架图不让 AI 画，元素数量它永远对不上。

八、三台机器，一个大脑

最后一站，也是最麻烦的一站，让三台机器共用一个大脑。

先把分工说清，因为这两件事经常被混在一起。

三台机器各干什么，一张表说清：

机器	角色	关键配置
云主机	中枢：接消息、存记忆、当跳板	2 核 / 2G 内存 / 40G 硬盘，常年开着
主力机	干活：本地模型、出图、写记忆	16G 显存，一大一小两个模型
家用旧电脑	只读：查笔记、远程指挥出图	不装生成环境，靠隧道连主力机

记忆和技能，靠 Syncthing 同步——同步的就是 Hermes 的两个目录：memories（它记住的事）和 skills（它学会的流程）。云主机当中心节点，三台机器各自跟它对，任何一台改了，几十秒内另外两台就有。只有这两样东西进同步目录，密钥、配置文件、授权信息一律排除在共享之外。

跨机器指挥，靠云端当跳板。家里那台电脑不装图形生成环境，它要出图就在云主机上转一道：主力机自己反着连到云上，把本机的远程入口挂在云主机的两个端口上，家里的电脑一句命令就接过去。出图、看队列、取回文件，全在主力机上发生。两个端口各干各的，一个连系统，一个连出图程序。

这一段最值钱的经验不是技术，是约定：只在主力机上写记忆。三台机器是双向同步的，我在家用机上改一条，主力机上也动了同一条，同步完就是互相覆盖。所以别的机器我当草稿机用，正式的东西回主力机落。

坑还有一个：远程连通之后，任何一台重启都可能断。我的办法是配自愈的计划任务，一个常驻连接，断了十几秒自动重连；一个守护任务每五分钟检查一次，发现掉了就拉起来。配完之后我就不再看它了，这是基建和手工活的区别。

照着做 · 三台机器

1. 装：三台机器各装一份 Hermes，用 Syncthing 把 memories 和 skills 两个目录同步起来；
2. 说：云主机当中心节点；性能弱的那台不装生成环境，靠 SSH 隧道把活送到主力机；
3. 验收：在一台上改一条笔记，等一分钟去另一台看，内容过来了。

• 坑：只在主力机上写记忆；密钥、凭据一律不进同步目录。

写完回头看

我想起两个月前第一次在云主机上敲下安装命令的那个晚上，折腾了三个小时，最后只成功让它回了一句”你好，我在”。

现在它知道我所有的坑，记得我每台机器的脾气，能在手机上被叫起来干活，能开我的笔记、算我的账、给客户的渲染图做写实化。中间没有哪一步是一键完成的，但也没有哪一步难到需要我变成程序员。

这两个月真正学会的，其实不是哪个软件怎么装，而是怎么指挥一个智能体干活：把边界划清楚（哪些能碰、哪些不能）、把凭据交到它手上、把验收标准说出来。如果只记一句：最容易卡的是三处——网络（先测再动手）、显存（本地模型和出图别同时开）、凭据边界（哪些钥匙交给它、哪些绝不交）。

这些年我的判断也一直没变：工具不必追最新，但必须归我管。网页版 AI 很方便，可那是别人的房子。这套折腾了两个月的自建体系，是我的屋子，丑一点，漏风一点，门钥匙在我手里。

如果你也在做设备或者带项目，我另写过一篇 别急着夸客户的想法，先问这 7 个问题，讲的是我问客户问题的顺序，跟工具无关，可能比我这两个月的折腾更有用。