内容概览： AI Gateway 的价值，不是把一次模型调用多经过一个代理，而是把多模型路由、密钥、配额、成本、安全和可观测性从各个业务系统里收拢出来。本文结合主流实现、配置示例和 Java 接入方式，说明它为什么正在成为 AI 应用的基础设施。

前言

假设一家公司最初只有一个智能客服接入了大模型。

那时候代码很直接：业务服务里放一个 SDK，配置一个 API Key，选一个模型，能回答问题就行了。可是过了半年，推荐系统、知识库、代码助手和内容审核都开始用模型，供应商从一家变成三四家，团队从一个人变成五六个小组，老板还开始追问：每个月到底花了多少 Token？哪个租户用得最多？模型挂了能不能自动切？