最近我在开发一个非参数化 Agent 自进化机制项目,已全部开源。等我的新 Mac mini 到货后,我计划测试一个能本地运行 30 天的场景。

文章链接:
https://mp.weixin.qq.com/s/jp4OLuDKy2AuTvj0jzlEBg

无限运行时 Runtime

我一直在思考,为什么大多数 Agent harness 设计都要给任务设置硬性停止条件?而且这些机制大多是硬编码的,这非常不 AI native。从 2020 年开始做企业软件后,我深刻认识到在复杂场景中,任务的边界是多么模糊。这需要 agent 具备长链路执行能力,能够自主处理上下文,在遇到各种失败时自我修复,任务流意外中断后能继续恢复而不是从头开始。

最好的上下文压缩就是不压缩

在开发 growth-harness 时,我干脆不设置硬性轮次上限。任务该运行多久,交给 Agent 自行判断:每运行 30 轮,它会停下来自我审查进度、完成情况以及是否值得继续运行,根据需要决定是继续还是结束。因此,真正限制它的不是轮次,而是你愿意给 AI 分配多少 token 预算。

我认为现在的 personal agent 在拥有大量用户 memory 后,可以尝试采用这种策略,因为大量 memory 已经为这种自我审计设定了真实场景的边界。这种体验应该会有显著提升,因为你不能总是让用户回到产品中给 Agent 提供下一步交互(这并非真正的 7*24h 服务)

Pre-registered Learning 预注册学习机制

从第一性原理角度看,任何在上下文层面实现 agent 经验进化的方法,本质上都是一套记忆系统,只是在存储内容结构、召回方式和应用场景上做了特定领域的改造。在 growth-harness 项目中,我构建了一套由「意图」「经验」「效用」三元组构成的经验进化引擎,我称之为预注册学习(Pre-registered Learning)

预注册概念最早出现在科研领域,指在进行实验前先公开假设和判断标准,实验结果出来后,问题的预定义不能修改,事前就将问题假设冻结,实验完成后进行对比复盘,形成对比记录,并将每次实验过程产生的经验保存下来,用于调整下一次实验动作。

这与我们在 agent 领域希望实现的 Agent 越用越聪明,能够根据任务经验自我进化,能够以更少步骤更快正确地完成任务的目标是一致的。

主楼