Lilian Weng 梳理 AI 自我改进中的 Harness Engineering
AI 自我改进为什么离不开 Harness Engineering
Lilian Weng 近日发布了一篇关于 Harness Engineering for AI Self-Improvement 的研究综述，讨论 AI 递归自我改进（RSI）未来在多大程度上会依赖 harness。
文中提到，RSI 的概念可追溯到 I. J. Good 在 1965 年提出的“超智能机器”：一种能够在所有智力活动中超越人类，并设计出更好机器来改进自身的系统。后来，Yudkowsky 在 2008 年使用“递归自我改进”来描述一个反馈循环：AI 使用当前智能来改进产生自身智能的认知机制。
在现代 AI 语境下，这种反馈循环不一定只意味着模型直接重写自身权重，也可能包括模型改进训练流程、部署系统和研究工作流，从而推动下一代模型在更多有经济价值的任务上获得更强表现。
Harness 与核心智能的关系
这篇文章的一个重点，是区分 harness layer 与 core intelligence。
即使许多 harness 层面的改进最终会被吸收到核心模型能力中，目标设定、上下文组织和任务约束仍然不会消失。换句话说，模型能力增强并不意味着外部系统设计变得无关紧要。
这里的 harness 可以理解为围绕模型构建的一整套执行环境与控制结构，包括但不限于：
- 目标与任务描述
- 上下文管理
- 工具调用
- 评估与反馈
- 多轮执行流程
- 自动化研究或实验框架
随着模型能力提升，harness engineering 可能会继续朝向自我改进和自动研究方向演化；而更强的模型又会反过来推动更复杂、更有效的 harness 设计。
研究脉络：从 ACE 到 Meta-Harnesses
文章还梳理了 harness 优化相关文献，其中包括较受关注的 ACE 论文，以及更新近的 Meta-Harnesses 方向。
这些工作共同指向一个趋势：AI 系统的进步并不只发生在模型权重内部，也发生在模型外部的任务编排、工具环境、反馈机制和自动化优化流程中。
这对社区讨论 AI agent 和自动研究系统有直接意义。与其只关注单个模型的参数规模或榜单表现，不如同时关注模型如何被组织、约束、评估和迭代。对于实际应用来说，harness 往往决定了模型能力能否稳定转化为可用系统能力。
值得关注的问题
这篇综述没有给出关于 RSI 未来形态的确定结论，但提出了一个值得继续跟踪的问题：如果 AI 系统越来越多地参与自身研究、优化和部署，那么 harness engineering 会不会成为连接当前 agent 系统与更强自我改进系统的关键工程层？
目前可以较稳妥地说，harness 不只是临时补丁。它正在成为 AI 系统设计中的核心组成部分，尤其是在多步骤任务、自动化研究和复杂工具使用场景中。