前言

近日，“杭州深度求索”推出了其最新的大型语言模型DeepSeek V3，这是一款强大的专家混合（Mixture-of-Experts, MoE）架构语言模型，总参数量达到671B，每个token激活的参数量为37B。经过综合测试它的性能已经比肩GPT-4o、Claude。这个消息在AI圈像一个新年烟花一样炸开。

本文将来看看这个新的模型的特性，以及与其它模型的指标对比。然后在最后，我们在 H800 GPU上运行 DeepSeek v3，让我们来体验一下。

什么是 DeepSeek v3？

DeepSeek v3 是一个强大的自然语言生成模型，专为生成高质量内容（如代码、文档或回答问题）而设计。其模型参数经过优化，可以利用 NVIDIA H100 GPU 实现极高的推理性能。为了实现高效的推理和成本效益高的训练，DeepSeek V3采用了多头潜在注意力（Multi-head Latent Attention, MLA）和DeepSeekMoE架构，这些技术已经在前代产品DeepSeek V2中得到了充分验证。

同时，DeepSeek V3在负载均衡方面开创性地引入了无需辅助损失的策略，并设定了多token预测的训练目标以提升性能表现。该模型在14.8万亿个多样且高质量的token上进行了预训练，随后通过监督微调（Supervised Fine-Tuning）和强化学习阶段进一步挖掘其潜力，确保模型能够更好地服务于各种应用场景。

官方模型托管在 Hugging Face 平台： [DeepSeek v3 模型仓库

DeepSeek v3横向对比

根据官方的介绍，训练成本为 557.6万美元，远低于 GPT-4o 、Claude等闭源模型的 1亿美元。该模型在多项评测中超越对手，例如如 Qwen 和 Llama 等顶尖开源模型。不仅如此，相较于GPT-4o、Claude等闭源模型，DeepSeek的成本和开源特性让开发者们更容易接触并使用。

综合评估结果显示，DeepSeek V3的表现超越了其他开源模型，并达到了与领先闭源模型相媲美的水平。值得注意的是，尽管DeepSeek V3拥有出色的性能，但其整个训练过程仅需2.788M H800 GPU小时（如果使用单个H800 GPU来训练DeepSeek V3，那么完成整个训练过程将需要2,788,000小时）。此外，DeepSeek V3的训练过程异常稳定，在整个过程中没有出现任何不可恢复的损失峰值或需要回滚的情况。

“读到此处，你可能已经意识到：AI大模型的迭代速度远超想象，仅凭碎片化知识永远追不上技术浪潮。我们耗时3个月整理的《2024大模型实战手册》，不仅涵盖核心技术解析，更独家披露企业级落地避坑指南，已有3267位读者通过这份资料建立起系统认知。现在点击下方卡片，立即解锁被行业头部公司列为内训教材的进阶秘籍…”

运行 DeepSeek v3 的前提条件

部署前，请确保您具备以下条件：

• 基本 Python 编程经验，以及对 Hugging Face 的 transformers 库的了解。
• 支持的硬件和环境：
  • GPU：NVIDIA H100 或 H100x8。
  • 操作系统：Ubuntu 20.04 或更高版本。
  • 环境需求：
    • Python 3.8 或更高版本。
    • Hugging Face Transformers 和 PyTorch。
• 合适的GPU与设备。在本文中，为了低成本快速体验该模型，我们选择[DigitalOcean 的GPU Droplet服务器]

DigitalOcean GPU Droplet 配置概览

DigitalOcean 提供两种 GPU Droplet 配置，基于 NVIDIA H100 GPU：

1. 单 GPU 配置（H100）
   1. GPU 数量：1× NVIDIA H100
   2. 显存：80 GB VRAM
   3. vCPU：20
   4. RAM：240 GB
   5. 存储：2 TB NVMe（引导盘）
2. 多 GPU 配置（H100x8）
   1. GPU 数量：8× NVIDIA H100
   2. 显存：640 GB VRAM
   3. vCPU：160
   4. RAM：1920 GB
   5. 存储：2 TB NVMe（引导盘） + 40 TB NVMe（高速缓存盘）

---

在 DigitalOcean 上创建 GPU Droplet

步骤 1：登录到 DigitalOcean 控制台

进入 DigitalOcean 控制台，并点击 Create Droplet。（[也可以看我们往期发布的教程]

步骤 2：配置 Droplet

• 操作系统：选择 Ubuntu 20.04 (LTS)。
• GPU 类型：选择 NVIDIA H100（单 GPU）或 NVIDIA H100x8（多 GPU）。(目前按需价格仅需2.55美元/小时/GPU，详情可咨询DIgitalOcean中国区独家战略合作伙伴卓普云）
• 区域选择：选择支持 GPU 的数据中心区域（如纽约或法兰克福）。
• 尽管DigitalOcean支持一键部署Huggingface上的模型，但是由于撰写本文的时候DeepSeek -V3才上线没多久，所以暂时在后台还不支持一键部署。后面我们会讲怎么部署。

步骤 3：设置身份验证

• 推荐使用 SSH Key 登录 Droplet，确保安全性和便捷性。

步骤 4：启动 Droplet

点击 Create Droplet，等待系统启动。完成后，记录 Droplet 的公共 IP 地址。

---

配置 Droplet 环境

使用 SSH 登录 Droplet：

ssh root@<Droplet_IP>

更新系统软件包：

sudo apt update && sudo apt upgrade -y

安装基础工具：

sudo apt install -y build-essential wget curl git

检查 GPU 驱动是否安装： DigitalOcean 的 GPU Droplets 预装了 NVIDIA 驱动和 CUDA 工具，但建议确认：

nvidia-smi

安装必要的软件和库

安装 Python 和 pip：

sudo apt install -y python3 python3-pip

创建虚拟环境（推荐）：

pip3 install virtualenv
virtualenv deepseek_env
source deepseek_env/bin/activate

安装 PyTorch 和 Hugging Face Transformers：

• 使用 PyTorch 官方提供的 CUDA 版本安装：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

• 安装 Hugging Face Transformers：

pip install transformers

安装其他依赖库：

pip install numpy pandas

加载并运行 DeepSeek v3

在 Droplet 中创建一个测试文件（如 deepseek_v3_test.py），DeepSeek V3 已在 Hugging Face 上开源，开发者可以通过以下步骤快速集成和使用：

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载模型和分词器
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-V3")
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V3")

# 输入文本
input_text = "生成一段Python代码，实现一个简单的计算器。"

# 生成代码
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(**inputs)

# 输出结果
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

测试 DeepSeek v3

自定义生成任务： 修改代码中的 input_text 为您希望生成的内容，例如：

• 文本生成："写一篇关于人工智能的短文。"
• 代码生成："生成一个实现二叉树遍历的Python代码示例。"

结语

通过本教程，您已成功利用 DigitalOcean 的 GPU Droplets 部署并运行了 DeepSeek v3。在 NVIDIA H100 或 H100x8 的强大计算能力支持下，DeepSeek v3 可以高效完成自然语言生成任务。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

)第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】