别再把 Agent 和模型混为一谈了：搞懂 Agent 系统的三层架构，排障效率翻倍

原文来源：Agent Is Not the Model — 用模型、推理服务、Harness 三层结构拆解 Agent 系统，帮你精确定位问题出在哪一层。

打开任何一个 AI 工具讨论群，你大概率会看到这样的话："这个模型不行，写代码老出错"或者"Claude 太贵了，换 Gemini 吧"。说这些话的人，很可能把好几个不同的东西混在了一起：模型、跑模型的服务器、以及外面那层让你能跟模型对话的工具。

作者 Joe Jags 在文章开头就说，他经常听到人们把 agent 和 model 当作同义词来用，指代 Claude 的时候一会儿说"模型"一会儿说"Agent"。这种混乱不是小事——如果你连问题出在哪一层都说不清，排障就只能靠瞎猜。

Agent 系统的三层结构

一个完整的 Agent 系统，从里到外可以拆成三层。

最核心的是模型。Sonnet、Opus、Gemini，这些都是在海量文本上训练出来的东西，本质上是"一大串浮点数按特定方式连接在一起"。它只有一个能力：接收文本，吐出文本。它不知道外面有什么工具，不知道 MCP 是什么，也不知道什么 Skill。

第二层是推理服务（inference service）。前沿模型太大太重，普通人本地根本跑不起来——内存不够。所以模型被托管在某个地方，比如 AWS Bedrock、Anthropic 的 API。这一层负责接收你的 API 请求、喂给模型、按用量计费。它的工作很朴素：文本进，文本出，就像最早的 ChatGPT 那样。

第三层是 Harness，也就是交互层。它是最外面的壳，给你一个舒服的方式去调用 API。最简单的 Harness 就是一个轻量包装，Claude Desktop、Claude CLI 都属于这一层。注意：MCP 和 Skills 这些功能，本质上是 Harness 的一部分。模型本身根本不知道有 MCP server 存在，是 Harness 决定要给模型暴露什么上下文和工具。

建筑队的比喻

文章里有个特别贴切的比喻：盖房子。

工地上的施工队拿着蓝图、订购材料、操作设备、安排工序——他们是唯一能实际动手的人，倒混凝土、钉钉子。但如果遇到需要动脑的事，他们得打电话给建筑师。施工队不能直接跟建筑师对话，中间要通过雇佣他们的那家公司，公司负责排期和结账。而建筑师很挑剔：你给它一份简报，它只还你图纸，别的什么都不管。

对应关系一目了然：施工队是 Harness（能接触外部世界、把图纸变成行动），公司是推理服务（管后勤和成本），建筑师是模型（纯粹、受约束、在自己的窄领域里出色）。

为什么这个区分那么重要

首先，同一个模型，配不同的 Harness，行为会完全不同。Sonnet 可以同时被用在十几个 Agent 系统里，但每个系统的表现都不一样，因为 Harness 在塑造输入、解释输出。你骂"Sonnet 真笨"的时候，可能真正的问题是某个 Harness 把上下文喂错了。

其次，出问题的时候，你要知道该修哪一层：

• 模型给出的答案很差？问题可能在 Harness 给的上下文不够好，而不是模型本身。
• 太慢、太贵？那大概率是推理服务或者底层算力的事，换模型没用。
• 工具调用不对？多半是 Harness 把工具格式弄错了，或者没解析好响应。

"能命名层，就能修层"——这是整篇文章的核心。不是抠字眼，而是为了更快、更有效地改进系统。你总得先知道毛病出在哪，才知道该修什么。

一个让人不安的推论

文章结尾提了一个挺有意思的推论：随着模型越来越聪明，今天 Harness 里的很多逻辑——比如 Skills、MCP——可能会变得不那么有用。现在大家花大量精力搭建的 Harness 机制，未来可能不值那么多钱。

这个观点其实已经有苗头了。现在的模型正在变得越来越擅长自己理解指令、自己调用工具，Harness 的价值正在从"替模型做决定"转向"给模型提供干净的接口"。如果你现在正在投资大量时间构建复杂的 Harness 逻辑，值得想想：这一层在未来三年还会是护城河吗？

对开发者的实际启示

这篇文章对普通开发者最大的价值，是提供了一个选型和排障的思维框架：

• 选工具的时候，别只盯着"哪个模型最强"，要连 Harness 一起看。同样的模型，Cursor、Claude Code、自研脚本，用起来是三种体验。
• 换模型解决不了 Harness 的问题。很多人遇到工具调用出错，第一反应是"换个更聪明的模型"，但如果你没搞清楚是 Harness 没把工具格式对，换什么模型都白搭。
• 评估成本时，把推理服务单独拎出来算。模型越来越便宜是大趋势，但推理服务的计费方式（按 token、按请求、按并发）差异巨大，这部分才是你账单里的大头。

总而言之：下次再想吐槽"这个模型不行"之前，先问自己一句——我到底是在说模型，还是在说外面那层壳？