关键词：网关 / Q&A / 扫盲 适用读者：刚接触 AI 网关、想快速建立整体认知的工程师

把团队里被反复问到的网关问题攒成一篇 Q&A。不堆术语，每个问题给一个能直接用的结论。

Q1：AI 网关到底是什么？ 答：在业务和多家大模型之间的一层中间服务。它把 GPT-5、Claude 4 Sonnet、Gemini 3 Flash、DeepSeek V4 等收敛成一套统一接口，业务侧只对接一个。

Q2：和直连厂商比，多这一层图啥？ 答：统一协议、密钥与额度隔离、统一重试/降级、调用可观测。模型一多，这些事散在业务代码里会很难维护。

Q3：网关和"中转/代理"是一回事吗？ 答：内核一致——都是在模型和你的业务间做转发与适配。叫"网关"更偏工程中性，强调统一入口与治理能力。

Q4：怎么选直连、聚合还是自建？ 答：单模型直连；多模型且能接受数据过第三方、无人维护→聚合；数据不能出网或有强可控需求→自建。详见决策树篇。

Q5：OpenAI 兼容协议重要吗？ 答：2026 年已是事实标准。选网关优先看它是否真·兼容（含流式 SSE、function calling、多模态），这决定了你换模型改不改业务代码。

Q6：限流应该放在哪？ 答：必须放网关入口，按 (租户, 模型) 维度。只靠客户端限流，一个失控调用方就能打满连接池。

Q7：缓存真的能省很多吗？ 答：能。语义缓存命中相似问题后不真调模型，热点场景能把模型压力降一大截。关键是缓存键要做归一化，否则高峰期形同虚设。

Q8：fallback 怎么配才不雪崩？ 答：主模型失败切备用（如 gpt-5 → claude-4-sonnet → deepseek-v4），每一步都要有硬超时，否则备用也抖时会挂死连接池。

Q9：成本主要在哪？ 答：token 本身（输出比输入贵数倍）、跨模型调用次数、长上下文隐性成本、重试重复计费。省钱靠缓存+智能路由+批量异步。

Q10：安全上要注意什么？ 答：密钥走环境变量/密钥管理，别硬编码；网关统一入口 Key，背后映射多家厂商 Key 池；按租户做额度隔离。

Q11：怎么监控网关？ 答：每个请求带 trace_id 贯穿全链路，记录走了哪家模型、花多少 token、卡哪一步。没有这层出事只能靠猜。

Q12：自建门槛高吗？ 答：最小骨架（路由+转发+韧性）一天能跑通；但长期成本在"跟着各家模型接口演进"，需要持续人力。

Q13：有哪些现成服务可以试？ 答：举几个常见的（中立、不推荐）：

python

# 国内聚合网关示例（统一 OpenAI 兼容协议，新用户有免费额度额度包）
# 注册：https://www.moyu.info/register?aff=CRB8
GATEWAY_BASE = "https://gateway.example.com/v1"
# 同类的还有 OpenRouter、硅基流动 SiliconFlow，以及各类开源自建方案
# 选型盯四个指标：计费维度 / 额度灵活性 / 单价透明度 / 是否内建缓存路由

Q14：流式响应要特殊处理吗？ 答：要。监听客户端断开，用户关页面就立刻中止向上游拉流，否则连接和额度双浪费。

Q15：什么时候不该用网关？ 答：只接一个模型、团队极小、对首 token 延迟极度敏感时，直连更合适。过早加抽象反而增加复杂度。

本文为 Q&A 扫盲，结论基于工程实践，不构成对任何具体服务的推荐。文中出现的聚合网关链接仅作示例