003、主流云平台对比：AWS、Azure、阿里云、腾讯云

上周帮团队部署一个7B参数的模型做实时推理，本地显卡显存直接爆了。同事跑过来说：“要不咱们申请买两张卡？”我看了眼采购流程和报价单，默默打开了云服务商的官网。有时候，硬件瓶颈的解决方案不在机房，而在浏览器里。

为什么是这四家？

选这四家不是因为它们最好，而是因为它们最能代表不同场景下的典型选择。AWS是行业标杆，Azure是企业级集成典范，阿里云和腾讯云则是国内业务无法绕开的选择。每家的设计哲学不同，直接决定了你的使用体验和最终账单。

核心能力对比：不只是看规格表

AWS EC2：老牌劲旅的细节
EC2的实例类型多得让人眼花，但对我们部署模型来说，重点关注GPU实例就行。p4d.24xlarge（8块A100）是训练大模型的利器，但贵得让人心颤。g5系列（A10G）性价比更高，适合推理场景。

关键提示：AWS的计费方式最复杂，预留实例、Spot实例、按需实例差价能差出几倍。如果模型要长期服务，一定要研究预留实例，能省40%以上。Spot实例适合临时性的大规模推理任务，但要做好随时被中断的准备。

# AWS SDK配置示例（这里踩过坑）
import boto3
# 千万别把密钥硬编码在代码里，见过有人这么干然后仓库公开了
# 用环境变量或者IAM角色，后者更安全
session = boto3.Session(profile_name='your_profile')
ec2 = session.client('ec2', region_name='us-east-1')  # 选区域有讲究，us-east-1最便宜

Azure NCas系列：Windows生态的延伸
如果你团队用惯了Windows Server或者.NET技术栈，Azure的集成体验是最好的。NCas T4 v4系列（英伟达T4）适合中等规模的模型推理，价格比AWS同档位略高5-10%，但Active Directory集成和Security Center的合规性工具值这个差价。

Azure有个隐藏优势：混合权益。如果你有本地Windows Server许可证，可以带到云上省钱。他们的技术支持响应速度是四家里最快的，但前提是你买了高级支持计划。

阿里云GN系列：国内业务的首选
必须承认，国内业务绕不开阿里云。GN6i（T4）和GN7（V100）是常见选择，最近还推出了GN10（A100）系列。网络延迟是最大优势，国内访问能控制在20ms内。

但要注意：国际版和国内版是两个完全不同的体系，账号不互通，API也有差异。文档的中文翻译有时候跟不上更新速度，最好直接看英文原版。他们的弹性GPU服务有点意思，可以动态挂载GPU，适合突发推理任务。

腾讯云GN7/GN10x：游戏公司的基因
腾讯云的GPU实例明显带着游戏渲染的基因，GN7（V100）和GN10x（A100）规格和阿里云对标。价格战打得最凶，新用户折扣能到三折，但续费时价格会跳涨。

他们家的云函数SCF对GPU支持不错，适合事件驱动的推理场景。不过控制台界面更新太频繁，有时候上个礼拜的操作路径这周就变了。

网络和存储：隐藏的成本杀手

选GPU实例时，大家光盯着显卡规格和价格，往往忽略了网络和存储成本。AWS的EBS gp3卷性能不错，但跨可用区传输要收费。Azure的Premium SSD延迟最低，适合高并发推理。阿里云的ESSD AutoPL模式能自动扩容，但峰值性能的计费方式要仔细看。

网络带宽是另一个坑。AWS按出网流量计费，入网免费；Azure双向都计费但首15GB免费；国内两家都是入网免费，出网按阶梯价。如果你要从云服务器大量下载数据到本地，这个成本可能超过实例本身。

模型部署的实际体验

在四家平台都部署过同一个Llama 2-7B模型，一些直观感受：

AWS的CloudFormation模板最成熟，一键部署各种架构，但学习曲线陡峭。Azure的Azure ML Studio对模型版本管理和A/B测试支持最好，几乎不用写代码。阿里云的PAI平台集成度高，但自定义程度受限。腾讯云的TI-ONE平台比较新，文档示例少，得自己摸索。

内存配置容易被忽略。GPU实例的系统内存要和显存匹配，比如A100 40GB卡最好配160GB以上内存，不然数据加载会成为瓶颈。AWS和Azure允许自定义内存配置，国内两家只能选固定规格。

个人经验建议

1. 先试后买：所有平台都有免费试用额度，但GPU实例通常不在免费范围内。开个按需实例实际部署你的模型跑一天，观察监控数据，比看一百篇评测都有用。

2. 混合策略：训练用AWS Spot实例，推理用阿里云/腾讯云预留实例，数据预处理用Azure的突发实例。没有一家能在所有场景都胜出。

3. 监控账单：设置预算告警，阈值设到预算的80%。见过有团队忘记关实例，一个月跑掉一辆车的钱。

4. 别被厂商锁定：尽量用容器部署，镜像保存在自己的仓库。今天可能因为政策要求用腾讯云，明天可能就要迁移到阿里云。

5. 国内业务注意：如果用户在国内，优先考虑阿里云/腾讯云，网络延迟的影响比显卡性能差异更明显。国际业务反之。

最后说个反直觉的观点：有时候“云服务器”不是唯一解。如果模型要7x24小时稳定服务三年以上，本地采购硬件可能更划算。云的优势在弹性，而不是绝对成本。

下次聊聊怎么在这些云平台上做成本优化，特别是那些控制台里不直接显示的隐藏设置。