LLM、Agent 与 Harness:概念区别与系统联系
讨论 AI 应用时,LLM、Agent 和 Harness 经常被混为一谈。它们并非同一层面的概念:LLM 提供语言理解与生成能力,Agent 围绕目标组织决策和行动,Harness 则提供执行这些行动所需的运行时、工具、状态与治理机制。
先说结论
可以简化为:LLM 提供能力,Agent 组织行动,Harness 管理行动如何发生。它们不是互相替代的产品类别,而是常常共同构成一个 AI 系统的不同层次。
LLM:模型,不是完整应用
LLM(Large Language Model,大语言模型)接收上下文并生成文本或结构化输出。它可以理解指令、总结材料、生成代码,也可能提出工具调用。但模型本身通常不负责真正执行 API、保存跨会话状态、处理工具报错或验证任务是否完成。
因此,一次模型调用可以是聊天应用的核心,却不自动等于 Agent。模型负责“根据输入产生判断或输出”,系统还需要别的部分把判断接入现实环境。
Agent:围绕目标行动
“Agent”没有唯一通用定义。一种常见的工程理解是:Agent 是由模型驱动、能够根据目标和当前状态决定下一步,并借助工具与环境交互的系统。Anthropic 区分了预设代码路径编排模型与工具的 workflow,以及能够动态决定过程和工具使用方式的 agent。[1]
典型的 Agent 会循环执行:接收目标、观察状态、选择动作、调用工具、读取结果,再决定继续还是结束。Agent 的特点不是单纯会说,而是具备一定程度的状态感知、决策和行动能力。OpenAI Agents SDK 也将 Agent 描述为配置了 instructions、tools 及可选 handoffs、guardrails 等运行行为的 LLM。[4]
Harness:让 Agent 能运行的环境
Harness 可理解为围绕模型和 Agent 循环的运行时脚手架。它负责把模型接到实际任务环境,并约束整个过程。Microsoft 的文档将 Agent Harness 描述为驱动模型与工具调用、管理会话状态和上下文、应用审批策略,并推动多步骤任务持续进行的运行时结构。[3]
Harness 通常涉及上下文装配、工具执行、循环与停止条件、状态保存、权限控制、错误恢复、日志追踪和结果评估。LangChain 文档用更紧凑的说法概括:Agent 在循环中调用工具直至任务完成,Harness 则包括 prompt、tools 和影响模型行为的 middleware。[2]
三者如何配合
- LLM 是推理部件:读取给定上下文,生成回答或下一步决策。
- Agent 是目标导向的控制逻辑:把模型接入观察、决策、行动、反馈的循环。
- Harness 是执行与治理层:准备上下文、运行工具、保存进度、处理失败,并落实安全与审批规则。
常见的工程近似是:Agent ≈ LLM + 指令 + 工具 + 状态 + 循环;而 Harness 为这套循环提供运行环境。这个划分是帮助理解的模型,不是所有框架都严格遵循的标准。不同产品会把循环、工具或状态管理划到不同的组件名下。
Agent framework 与 Harness
Agent framework 通常指开发工具包或编程框架,提供模型、工具、handoff、middleware 等构建积木。Harness 更强调这些积木如何在一次任务中实际运行:上下文何时注入、工具如何执行、失败如何恢复、权限如何审批、何时判定完成。
两者边界并不固定。一个框架可以内置 Harness;开发者也可以只使用框架组件,自己组装面向编程、客服或研究任务的运行时。简单说,framework 偏向“用什么构建”,Harness 偏向“系统怎样工作”。
举例:撰写研究报告
假设任务是比较几种数据库并写出有依据的报告。LLM 负责理解要求、概括资料和组织文字;Agent 决定搜索哪些内容、是否需要补充资料以及如何比较;Harness 提供搜索和文件工具、记录来源、限制访问范围、处理请求失败,并在交付前检查引用和格式。
没有 LLM,系统缺少语言理解与生成能力;没有 Agent,过程可能只是固定脚本;没有 Harness,模型即使提出正确的下一步,也可能无法可靠、安全地执行。
什么时候需要 Agent
并非每个任务都应该做成 Agent。若步骤固定、输入输出明确,普通代码或确定性 workflow 往往更容易测试、审计和维护。Anthropic 建议从最简单可行方案开始,因为 Agentic 系统可能增加延迟与成本;当任务确实需要灵活决策时,再逐步增加自主性。[1]
一个实用顺序是:先用普通程序处理确定性步骤;需要语言理解时使用 LLM;需要模型动态选择步骤或工具时引入 Agent;当任务跨越较长时间、多个系统并涉及状态、安全和恢复,再完善 Harness。
结语
LLM、Agent 与 Harness 的联系,可以概括为“能力、行动、运行环境”。可靠的 AI 系统不只是更强的模型,也依赖清晰的工具接口、恰当的上下文管理、明确的停止条件、权限边界和可验证的结果。理解这些层次,有助于判断手头的方案究竟是一次模型调用、固定工作流,还是具备完整运行机制的 Agent 系统。