AI 产业化的重心正在从“把模型训练出来”转向“让模型持续干活”。这个判断在 2026 年变得更有现实感:Gartner 预测,2026 年全球 AI 优化型基础设施即服务支出中,推理支出将达到 233 亿美元,首次超过训练支出的 190 亿美元;中国信通院 2026 年 9 月发布的《词元经济发展研究报告》也给出同向判断,预计 2026 年推理算力占 AI 算力总负载的比重达到 70.5%。这些数字来自特定市场口径和趋势预测,不能直接当成每家企业自己的账单结论,但它们指向一个已经发生在预算表上的变化:AI 支出正从一次性模型投入,转为持续性推理运营成本。

如果预算编制仍然沿用“模型采购”或“Token 单价”的口径,企业很容易在单价下降时看到总账单上升,却说不清钱花在了哪里。更合理的做法,是把核算单位从“一次调用”改成“一个被业务接受的有效任务”,并围绕这个单位重建预算、采购和供应商谈判的指标。
拐点不是训练不重要,而是成本中心换了位置
训练和推理的经济性质不同。训练是一次性或阶段性的集中投入,像建一座工厂;推理是模型上线后持续发生的计算,像工厂每天开工。训练预算通常由技术团队按项目申请,周期长、金额集中;推理预算则分散在产品、运营、客服、研发等业务线,按月甚至按天发生,直接对应任务量。当推理成为主要支出,AI 预算就从技术项目预算变成了业务经营预算。
这也是为什么“推理支出超过训练支出”值得企业决策者关注,而不只是技术团队关注。它意味着预算的审批节奏、责任主体和考核方式都要变。过去问的是“这个模型项目值不值得立项”,现在要问的是“这条业务线每个月跑多少任务、每个成功任务花多少钱、失败重试和人工接管占了多少”。
需要说明的是,Gartner 的数据针对的是 AI 优化型 IaaS 这一细分市场,并非把所有 AI 投资放在一起统计的全口径结论。2026 全球 AI 创新指数报告提出的“从训练转向推理、从单点技术部署转向全流程改造”,以及韩国 IITP 对 2027 年 AI 竞争转向生产率与成本效率的判断,都属于趋势层面的观察。它们能帮助企业判断方向,但不能替代企业用自己的任务数据做验证。
为什么模型单价下降,AI 账单反而可能上升
同等能力的大模型调用价格仍在下降,但不少企业复盘时发现,系统接入、效果评测、运行支持等费用持续增加。两者并不矛盾:模型价格只覆盖一次推理,企业承担的却是一项任务从发起到被业务接受的完整成本。
这个完整成本至少包括几层:模型调用费用、工具调用与检索费用、失败重试消耗、人工接管成本、延迟带来的业务损失,以及共享平台的摊销。如果只盯着每百万 Token 的价格,就会漏掉后面几层。尤其当 Agent 从演示走向生产,任务需要多轮拆解、工具调用和结果校验,成本会随着轮次、上下文长度和并行度上升,而不是简单随单价下降。
一个更贴近经营现实的指标是“每个成功任务的成本”,英文常写作 Cost per Successful Task。它把模型推理、工具调用、检索、失败重试、人工接管和延迟损失放在一起,再除以成功完成的任务数。这个指标的好处是,它能回答预算评审真正关心的问题:预算增长究竟来自业务扩展,还是来自失败重试和重复建设。
企业 AI 预算该怎么改:从“买模型”到“买任务”
预算编制上,建议把 AI 支出拆成四个口径,而不是一张总表到底。
| 核算层级 | 要回答的问题 | 建议关注的指标 | 主要责任方 |
|---|---|---|---|
| 模型调用层 | 哪类模型调用更经济 | 输入/输出/缓存单价、每百万 Token 成本、批量折扣 | 技术平台团队 |
| 单项任务层 | 完成一次业务动作花多少 | 单位任务成本、失败重试率、人工接管率、端到端延迟 | 业务线负责人 |
| 共享平台层 | 平台能力该摊多少 | 推理平台折旧、向量库与检索成本、运维人力、峰值容量 | 平台与财务 |
| 业务结果层 | 这笔钱换来了什么 | 任务成功率、业务采纳率、单位产出成本、客户体验指标 | 业务与财务联合 |
四个口径解决的问题不同,不能互相替代。模型调用层适合做模型选型和容量规划;单项任务层适合做预算评审和业务复盘;共享平台层适合判断重复建设;业务结果层适合回答“AI 到底有没有产生经营价值”。
采购评估上,除了价格,还应把首令牌时间、每输出 Token 时间、吞吐量、可用性和弹性能力纳入对比。对于交互型任务,首令牌时间直接影响体验;对于批处理任务,吞吐量和每百万 Token 的综合成本更关键。全栈 Token 成本模型——把计算、存储、网络、电力、冷却和设施摊销都折算到每百万 Token——可以作为基础设施采购的分析基础,但企业不必一开始就做得这么重,先把自己最主要的二三十个任务跑出基线,更有实际意义。
供应商谈判上,建议重点关注计价透明度、输入输出与缓存是否分开定价、承诺用量与弹性扩容条款、失败重试是否重复计费、数据与模型的可迁移性,以及退出成本。推理支出是持续性运营成本,合同一旦锁定不合理的用量假设,后续调整空间会很小。把“单位任务成本”写进验收指标,比只约定 Token 折扣更能约束总成本。
三个容易踩的坑
第一个坑是把 Token 单价当成总成本。单价下降不等于任务成本下降,如果失败重试和人工接管比例上升,单位任务成本可能不降反升。
第二个坑是用席位制预测智能体用量。传统软件按人头订阅,用量相对可预测;智能体按任务、尝试次数、轮次和上下文消耗资源,1% 的用户也可能产生大量调用。预算模型需要从“人数×单价”转向“任务量×单位任务成本”。
第三个坑是把宏观预测直接当成企业自己的预算依据。推理支出超过训练支出,说明产业重心在移动,但每家企业的主营业务、任务结构、数据基础和供应商合同都不同。宏观趋势只能用来校准方向,不能替代自身基线。
一个可操作的验证顺序
对于准备调整 2026 年 AI 预算的企业,可以先做三件事。第一,选一条已经上线的业务线,连续四周记录任务量、成功任务数、失败重试次数、人工接管比例和端到端延迟,算出单位任务成本基线。第二,把模型调用、任务运营和共享平台成本分开归集,确认预算增长到底发生在哪一层。第三,在采购评估中加入首令牌时间、吞吐量和全栈成本,在合同中加入用量弹性和退出条款。
这三件事不需要等到所有指标完美,但能帮助企业从“凭单价和感觉做预算”转向“凭任务和结果做预算”。训练转向推理,不只是一句产业口号,它意味着 AI 预算的周期、科目和谈判方式都要重新设计。推理成本正在变成一项需要长期管理的运营成本,而不是一次性的技术采购。越早建立任务级核算的企业,越可能在单价下降时真正受益,而不是被用量增长和隐性成本吞掉预算空间。
文章版权归作者所有,未经允许请勿转载。