Token浪费的深层逻辑：大模型推理成本的结构性危机

三年前，“选最强模型”是工程团队最省心的决策。旗舰模型在所有基准测试中领先，开发者无需考虑成本优化。

2026年春季，行业风向突变。

OpenRouter数据显示，旗舰级模型调用占比连续下滑，100B-300B区间模型流量显著攀升。Elephant单日涨幅500%，冲上热榜榜首。开发者开始按任务类型分配模型，而非一律顶配。这是工程理性回归，不是对旗舰模型的否定。

为什么浪费现在开始算账

Agent需要执行大量工作。处理一张工单可能调用模型十几次：意图理解、知识库检索、优先级判断、回复生成、格式核查。并发处理千张工单时，日调用量轻松突破百万级别。

开发者shelvenzhou的基准测试揭示残酷真相：第一轮对话Token成本0.0050美元；第五轮飙至0.0665美元，是首轮的13.3倍；第十轮达到0.13美元，是首轮的26倍。5200个GitHubIssues记录了开发者的集体焦虑，4150个诞生于2026年一季度。

AgentHarness的工程救赎

现有Agent工程实现极为粗糙。多步任务中，Token消耗呈线性增长，大量内容对当前步骤毫无意义。这催生了AgentHarness——包裹在模型外部、负责管理上下文、编排工具调用、控制执行生命周期的“缰绳”。

效率压力形成两条并行线：框架侧的Harness，模型侧的小型化优化。

实用主义区间的崛起

100B-300B参数正在成为性价比最优区间。GPT-5.4Nano以48%涨幅领跑增长榜，Elephant单日涨幅38%。OpenClaw、ClaudeCode成为小模型的流量入口。

OpenAI的Codex系统展示了分层调用范式：GPT-5.4负责规划与决策，GPT-5.4mini子智能体并行处理代码检索、大文件审阅等细分任务。大型模型做判断，小型模型快速执行——这种模式开始变得实用。

效率不是降级，是分工

旗舰模型不会消失。跨领域深度推理、多步骤规划、复杂代码生成场景中，它们仍是必需品。

但在日常执行层，用旗舰模型是在为不需要的能力付费。CPU发展从单核主频转向多核协作，数据库领域OLTP与OLAP长期共存——模型选型正在经历类似的成熟。

Token效率正在成为核心评估维度。在高频调用场景下，它直接关系到产品的商业可行性。规模继续重要，但效率开始定价。