DeepSeek-V3.1用户手册：从入门到精通

【免费下载链接】DeepSeek-V3.1-Base DeepSeek-V3.1 是一款支持思考模式与非思考模式的混合模型 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.1-Base

DeepSeek-V3.1是一款支持思考模式与非思考模式的混合模型，通过创新的架构设计和优化，为用户提供高效智能的AI交互体验。无论是日常对话、复杂问题解决还是工具调用，DeepSeek-V3.1都能以灵活的模式满足不同场景需求。

核心功能解析：为何选择DeepSeek-V3.1？

混合思考模式：一键切换智能形态 🧠

DeepSeek-V3.1最显著的优势在于同时支持思考模式与非思考模式，通过修改聊天模板即可无缝切换：

• 非思考模式：直接生成响应，适合日常对话和快速问答
• 思考模式：模拟人类思考过程，逐步推理复杂问题，提升答案准确性

这种双模式设计使得模型既能快速响应简单需求，又能深度处理复杂任务，真正实现"按需智能"。相关模板定义可参考assets/chat_template.jinja文件。

增强工具调用能力：连接外部世界的桥梁 🔗

通过后训练优化，DeepSeek-V3.1的工具使用和代理任务性能显著提升。其工具调用格式严格遵循：

<｜tool▁calls▁begin｜><｜tool▁call▁begin｜>tool_call_name<｜tool▁sep｜>tool_call_arguments<｜tool▁call▁end｜>{additional_tool_calls}<｜tool▁calls▁end｜>

开发人员可通过assets/code_agent_trajectory.html查看代码代理示例，或参考assets/search_tool_trajectory.html了解搜索工具调用流程。

卓越性能表现：速度与质量的完美平衡 ⚡

DeepSeek-V3.1在保持高思考质量的同时大幅提升响应速度：

• 思考模式下性能媲美DeepSeek-R1-0528，但响应更快
• 支持128K超长上下文窗口，轻松处理长文档理解
• 采用UE8M0 FP8数据格式，兼顾性能与资源效率

快速上手：5分钟启动你的第一个DeepSeek应用

环境准备：简单几步，即刻就绪 🚀

1. 克隆仓库

   git clone https://gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.1-Base
   cd DeepSeek-V3.1-Base
   

2. 安装依赖 确保安装transformers库以加载模型配置和分词器：

   pip install transformers
   

基础使用：Python代码示例

以下是使用DeepSeek-V3.1进行多轮对话的简单示例：

import transformers

# 加载分词器
tokenizer = transformers.AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V3.1")

# 定义对话历史
messages = [
    {"role": "system", "content": "You are a helpful assistant"},
    {"role": "user", "content": "Who are you?"},
    {"role": "assistant", "content": "</think>Hmm</think>I am DeepSeek"},
    {"role": "user", "content": "1+1=?"}
]

# 应用思考模式模板
thinking_prompt = tokenizer.apply_chat_template(
    messages, 
    tokenize=False, 
    thinking=True, 
    add_generation_prompt=True
)

# 应用非思考模式模板
non_thinking_prompt = tokenizer.apply_chat_template(
    messages, 
    tokenize=False, 
    thinking=False, 
    add_generation_prompt=True
)

深入探索：高级功能与最佳实践

配置参数详解：定制你的模型行为

DeepSeek-V3.1提供丰富的配置选项，主要定义在configuration_deepseek.py中，关键参数包括：

• hidden_size: 隐藏层维度，默认为7168
• num_hidden_layers: 隐藏层数量，默认为61
• num_attention_heads: 注意力头数，默认为128
• max_position_embeddings: 最大上下文长度，默认为4096
• rope_theta: RoPE位置编码的基数，默认为10000.0

通过调整这些参数，可以在性能与资源消耗之间找到最佳平衡点。

两种模式实战对比

非思考模式：快速响应场景

适用于简单问答、日常对话等场景，直接生成响应：

<｜begin▁of▁sentence｜>You are a helpful assistant<｜User｜>What's the capital of France?<｜Assistant｜></think>

思考模式：复杂推理场景

适用于数学问题、逻辑推理等需要逐步思考的任务：

<｜begin▁of▁sentence｜>You are a helpful assistant<｜User｜>Solve: 3x + 7 = 22<｜Assistant｜></think>

模型会生成类似"Let me think step by step..."的思考过程，然后给出最终答案。

性能优化建议：让模型运行如飞 🚀

1. 精度设置：mlp.gate.e_score_correction_bias参数应使用FP32精度加载和计算
2. 缓存利用：启用use_cache=True可加速序列生成
3. 批量处理：合理设置batch size，充分利用GPU资源
4. 量化支持：模型支持FP8格式，可显著降低内存占用

常见问题解答：解决你的疑惑 ❓

Q: 如何判断应该使用思考模式还是非思考模式？

A: 简单任务（如事实查询）使用非思考模式以获得更快响应；复杂任务（如逻辑推理、数学问题）使用思考模式以获得更高准确性。

Q: 模型支持多长的上下文？

A: DeepSeek-V3.1-Base支持128K上下文长度，能够处理超长文档和多轮对话。

Q: 如何实现工具调用功能？

A: 参考assets/search_python_tool_trajectory.html中的示例，按照指定格式在非思考模式下构造工具描述和调用指令。

总结：开启你的AI探索之旅 🌟

DeepSeek-V3.1凭借其混合思考模式、强大的工具调用能力和高效性能，为开发者和用户提供了一个灵活且强大的AI平台。无论你是构建智能助手、开发自动化工具，还是进行AI研究，DeepSeek-V3.1都能成为你的得力助手。

通过本文档介绍的基础使用方法和高级技巧，你已经具备了开始使用DeepSeek-V3.1的全部知识。现在，是时候动手实践，探索这个强大AI模型的无限可能了！

附录：资源与参考

• 模型配置文件：configuration_deepseek.py
• 模型实现代码：modeling_deepseek.py
• 聊天模板：assets/chat_template.jinja
• 代理示例：assets/code_agent_trajectory.html

【免费下载链接】DeepSeek-V3.1-Base DeepSeek-V3.1 是一款支持思考模式与非思考模式的混合模型 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.1-Base