云厂商为何争夺推理芯片?

很多人看到云厂商争抢推理芯片，第一反应是“又一场芯片大战”。但我觉得，真正的关键词不是谁的芯片跑分更高，而是谁能把 AI 应用上线后的每一次回答，做得更快、更便宜、更稳定。

训练像是把模型造出来，推理则是模型被大量调用的日常运营。大模型一旦进入搜索、客服、办公等场景，推理请求会持续发生。这个阶段未必只追求极限算力，还要同时看吞吐、延迟、功耗和单位成本。对云厂商来说，哪怕单次调用只省下一点成本，放到庞大的业务规模里，也会变成巨大的差异。

所以，云厂商不愿长期只依赖单一芯片供应商。缺货时要排队，价格和交付周期缺少主动权，业务路线也容易被别人牵着走。自研芯片当然能增强控制力，但完全自己做并不轻松，于是“自研加联合定制”成了更现实的路线：云厂商把自己的负载特点前置到设计环节，芯片厂商则补上架构、制造和生态能力。

亚马逊与高通的合作很能说明问题。双方共同开发面向 AI 数据中心的定制化推理芯片和光互联方案，高通还将向亚马逊发行最多 2500 万股认股权证，合作采购规模上限达到 600 亿美元。这个安排不只是买芯片，更像是把技术路线、供应关系和双方利益绑定在一起。

我尤其关注光互联这一部分。集群规模扩大后，芯片之间传数据也可能成为瓶颈。芯片算得再快，通信跟不上，整体效率仍会被拖住。用光信号提升带宽、降低延迟和功耗，本质上是在给推理基础设施补短板。

这场竞争最终比的不是“谁替代谁”，而是谁能提供更合适的组合：通用芯片保证生态和灵活性，定制推理芯片控制成本，光互联支撑更大的集群。英伟达的优势仍然明显，但云厂商正在把选择权拿回来。推理芯片之争，说到底是一场 AI 规模化之后的成本战争。