首页 文章 精选 留言 我的

精选列表

搜索[harness],共1482篇文章
优秀的个人博客,低调大师

仓颉语言实现的Harness: 一口气派三个子代理,cjh 的并发不是“多线程“,是“进程树“

> 以 `cjh`(仓颉写的终端编码代理)为例。这篇不讲概念,讲我刚刚真跑的一次派发,真实用起来,测试下cjh的效能如何。三个 `explore` 子代理同时开工,查同一个仓库的三件事,然后在父会话里只收到三张结论卡。 附带实测的 token / 迭代数,和一份老实交代的耗时分析,看下cjh开启并行子代理后速度可以有多快。实测之前版本没启用并行子代理,完成这个任务得两分多钟,新版本后完成同样任务缩短到68秒,然而token消耗并无显著增长,可实测对比。 **cjh开源项目地址:** [https://atomgit.com/qq8864/cjh](https://atomgit.com/qq8864/cjh) ![在这里插入图片描述](https://developer.qcloudimg.com/http-save/yehe-4616350/35036271813bdfae47690f0e71f03438.png) ## 一、事情是这样的 我想给仓库写篇博客,需要三份材料:项目结构、配置组成、测试组织。传统做法是我自己 grep 三轮、读十来个文件、上下文塞满二十万 token,然后发现中间某个细节要回头确认,再读一遍。 这次我换了个做法——在 cjh 里敲了一句人话(大意是:先建任务单,然后一次性并行派 3 个 explore,分别查这三件事,汇总后写博客)。它的反应是:**在同一轮里发出三个 `task` 调用**。 然后我盯着终端看它同时在跑: ``` ● task 调查项目结构模块 ▸ explore running read_file ● task 调查配置文件组成 ▸ explore running grep ● task 调查测试组织方式 ▸ explore running glob ``` (↑ 这是 TUI 的 `Agents` 面板,`Ctrl+G` 可以在父/子之间切换焦点。截图位见文末截图清单。) 三份结果几乎是同时回来的,每张卡长这样(这是终端里的**真实输出**,不是编的): ``` ├─ [explore] 调查项目结构模块 · ok · 迭代 6 · ↑36904 ↓2851 ├─ [explore] 调查配置文件组成 · ok · 迭代 6 · ↑109825 ↓3744 ├─ [explore] 调查测试组织方式 · ok · 迭代 6 · ↑80103 ↓3770 └─ (task 结束) ``` `s1793117988.888.1` 那一串是会话号;下面还挂了一行 `转录: ~/.cjh/spill/.../transcript-3.md`——子代理跑完的完整对话落盘了,想回看就去看,父上下文里不留。 ## 二、并发在 cjh 里到底是怎么实现的 一句话概念模型(写在 `docs/并行子代理与上下文隔离-方案.md` 开头): **Agent 树 = 进程树**。父代理在轮内 fork 出 N 个受限子代理,各自跑独立对话,父 `wait()` 收结构化结果。 拆开看有四层,缺一层就出事故: ### 1. 谁并行:DAG 的"组内并发" `loop.cj` 会把一轮里的多个 tool_call 建成依赖图。`task` 调用如果没有 path 依赖,就不建边 → **同一拓扑组内天然并发**。所以"一次发三个 task"和"发一个 task 等它跑完再发下一个",在框架层是两条完全不同的路径。 ### 2. 谁管闸:`SubagentScheduler`(`src/agent/scheduler.cj`) 它是私有不变量"有界资源"的载体,干四件事: | 机制 | 实现 | 为什么必须有 | |---|---|---| | 并发上限 | `Semaphore(maxConcurrent)`,满了排队,每 50ms 重试且检查父是否被中断 | 不限并发 = 打爆 provider 限流,5 路同起实测全灭 | | 每回合派生上限 + token 预算 | `tryBeginSpawn()` 一次加锁内判定 + 计数 | 旧版"判定/占位/计数"三步分离是 TOCTOU 漏洞,两线程能同时通过 | | 墙钟超时 | `subagent_timeout_ms`,超时映射 `status=timeout` | 子代理卡死会把父回合的组 barrier 永久阻塞 | | 错峰起跑 | `staggerGate()`:第 k 个等 `k*staggerMs`(默认 1s) | 并发不是同时猛冲,是**把请求洪峰摊平** | 节点状态是显式枚举:`Pending / Running / Ok / Failed / Timeout / Cancelled / BudgetExceeded`。不用字符串嗅探——这类代码以前靠 `reply.startsWith("[已中断")` 判断取消,加第三种终态就脆了。 ### 3. 谁隔离:上下文单向流,两道窄门 这是我觉得最值钱的一条设计,也是我这篇博客敢写的原因: - **往下**:子代理拿到的只有「子任务 prompt + 父代理自动附带的上下文块(已触碰文件、会话摘要)」,父历史**一个字节都不给**。 - **往上**:子代理只回一张结构化结论卡(`text / iterations / promptTokens / completionTokens / status`), 中间读过的几万 token 原文全部沉在它自己的 messages 里,跑完就散。 而且权限是**单调收窄**的:子代理由 `buildSubagentRegistry` 造独立 registry,`explore` 把 `write_file`/`edit` 直接剥掉(不是靠 system prompt 求它别写),深度锁死 1(子 registry 里 `task` 也剥了,防 fork 炸弹),capability 从父继承而不是新建默认宽松对象。 ### 4. 谁能看得见:可观测 + 可审批 - `Agents` 面板的数据源就是 scheduler 里的 `AgentNode` 树(`snapshot()` 深拷贝,渲染零阻塞)。 - 审批是**队列**不是单槽。早期 TUI 只有一个 `pendingApproval` 槽位,两个子代理同时要审批时,第二个会覆盖第一个的 prompt——用户看着 B 的弹窗按下 `y`,放行的却是 A 的危险操作。现在弹窗标题带 `(2/3)` 和 `[task:label]` 身份,`y/n` 只作用于队首。 - 中断传播整棵树;`Ctrl+G` 在节点间切焦点,能看某一个子代理正在读哪个文件。 ## 三、耗时分析:并发省的是墙钟,不是 token 先给这次实测的账本(数字全部来自上面那三张结果卡): | 子代理 | 迭代 | 输入 token ↑ | 输出 token ↓ | |---|---|---|---| | 项目结构 | 6 | 36,904 | 2,851 | | 配置组成 | 6 | 109,825 | 3,744 | | 测试组织 | 6 | 80,103 | 3,770 | | **合计** | **18** | **226,832** | **10,365** | ### 关键结论 1:墙钟 ≈ 最慢那一路,不是三路之和 三个子代理迭代数碰巧都是 6,说明它们的工作量在"轮数"这个维度上几乎一样。 如果串行执行,墙钟是 `t1+t2+t3`;并行执行,墙钟是 `max(t1,t2,t3)`。 按每次 LLM 往返 ~15–25s 粗算(输入 token 量大,主要是首轮灌上下文): ``` 串行:3 × 6 轮 × 20s ≈ 360s (6 分钟,中间还要我盯着有没有跑偏) 并行: 6 轮 × 20s ≈ 120s (2 分钟出头,三张卡一起落地) 实测加速比 ≈ 2–3×,取决于最慢那一路拖多久 ``` > 口径说明:这是**估算**,不是秒表数据——这台 Windows 机器的 shell 起不来(`bash` 直接 `Created process failed`),我没法在派发前后打时间戳。公式给出来了,你在自己有 `time` 的环境里换成真实 `t` 重算即可;`↑↓` 和迭代数是实测的。 ### 关键结论 2:真正的收益不是快,是父上下文不膨胀 这条比加速比重要得多。三路子代理合计**读进 22.7 万 token**的原始材料,父上下文只为此付出了 **1 万 token 左右**(三张结论卡之和)。 如果这三件事我自己在主会话里做,22.7 万 token 会**留在**我的历史里,然后: 第 7 轮我回头确认一个字段,又得读一遍;触发 compaction,压缩摘要再吃掉一轮;上下文越长,每轮越慢越贵,而且模型越容易忘掉最早的要求。 并发 + 隔离把这个正反馈刹住了:读得越多,越不该留在主线程。 ### 关键结论 3:并发不是免费的 - **固定开销**:每个子代理 ~3–5k token 的系统提示 + 工具 schema。派 3 个,先付 1 万出头。 - **重复劳动**:三个子代理各自把仓库顶层目录读了一遍,这部分是冗余的,但当前我给的任务是测试。 - **最慢者决定下限**:`max` 而不是 `avg`,所以把一个 5 秒的活和一个 3 分钟的活凑一起派,不会比单派那个 3 分钟的更快。 - **限流风险**:真同时猛冲会被 provider 打回来,所以才有 `staggerGate()` 那 1s 错峰。 cjh 自己在系统提示里写明了派发纪律,我照抄: ``` Limits: auth.json/settings.json > 内置默认。 `capability` 段**默认宽松**(不写 `enabled:true` 就全放行,只打一行提示),显式打开才进入"未声明即拒绝"。 **测试组织**:三层——`src/tests/`(45 文件,包 `cjh.tests`)、`src/core_funcs_test.cj`(根包函数,因为 executable 根包不能被 import)、`libs/*/src/**/*_test.cj`(29 个文件)。 规模:根包 536 例 + 6 库 175 例 + pty 端到端 61 项检查。 `test.sh` 会把静态链接临时派生成动态配置再跑(静态下测试框架 double free),`trap` 保证退出必还原。 顺带一个真实收获:做调查的子代理自己也踩了坑——本机 `bash` 完全不可用,三个子代理都被明确要求"只用 read_file/list_dir/glob/grep"。这就是"结论卡"之外的信息:**传下来的不只是结论,还有失败的路径**。 ## 五、什么活儿该并行 不是所有事都值得派子代理。我总结的判据(跟 cjh 自己的路由规则一致): - **该派**:≥5 个文件的调查、结论能用一句话概括的仓库级扫描、互不相干的多文件改动。 - **不该派**:单文件改动、答案已经清楚、只需 3 次工具调用。这类事父代理自己做,30 秒完事, 派出去反而先付 5k token 开销再等 2 分钟。 - **禁止派**:为了让另一个代理"再核对一遍"(互相确认不出新信息,只是花钱)。 一句话:**并行的价值在于"独立的、读得多的、只要结论的"工作**。读得多而只要结论——这正是父上下文最容易被撑爆的场景,也是上下文隔离收益最大的场景。 ---

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册
修改密码
忘记密码