DeepSeek-R1-Distill-Qwen-1.5B部署教程：WSL2环境下Ubuntu子系统完整配置流程

1. 项目简介

DeepSeek-R1-Distill-Qwen-1.5B是一个超轻量级的智能对话模型，专门为本地化部署设计。这个模型结合了DeepSeek优秀的逻辑推理能力和Qwen成熟的架构设计，经过蒸馏优化后，在保持强大能力的同时大幅降低了计算资源需求。

只需要1.5B的参数规模，让这个模型完美适配各种硬件环境，包括显存较小的GPU或者普通的CPU计算环境。项目使用Streamlit构建了直观的聊天界面，不需要复杂的配置就能开始使用。

这个模型特别擅长逻辑推理、数学解题、代码编写等需要思考过程的任务。它会自动将思考过程结构化展示，让你清晰看到AI的推理逻辑。所有数据处理都在本地完成，完全保障你的隐私安全。

2. 环境准备与系统配置

2.1 WSL2和Ubuntu安装

首先需要在Windows系统上启用WSL2功能。打开PowerShell（管理员身份），运行以下命令：

wsl --install

这个命令会自动安装WSL2和默认的Ubuntu发行版。安装完成后，需要设置WSL版本：

wsl --set-default-version 2

重启系统后，从开始菜单启动Ubuntu，完成初始用户设置。

2.2 系统更新和基础依赖

进入Ubuntu终端，首先更新系统包：

sudo apt update && sudo apt upgrade -y

安装Python和pip：

sudo apt install python3 python3-pip python3-venv -y

安装CUDA工具包（如果使用NVIDIA GPU）：

sudo apt install nvidia-cuda-toolkit -y

3. 模型部署详细步骤

3.1 创建项目目录

首先创建一个专门的项目目录：

mkdir ~/deepseek-chat && cd ~/deepseek-chat

创建Python虚拟环境：

python3 -m venv venv
source venv/bin/activate

3.2 安装依赖包

安装必需的Python包：

pip install torch torchvision torchaudio
pip install transformers streamlit
pip install accelerate bitsandbytes

3.3 下载模型文件

创建模型存储目录：

sudo mkdir -p /root/ds_1.5b

从魔塔平台下载模型文件（需要先获取下载链接）：

# 示例下载命令，实际链接可能需要根据平台要求获取
wget -O /root/ds_1.5b/model.safetensors <模型下载链接>
wget -O /root/ds_1.5b/config.json <配置文件链接>

3.4 创建Streamlit应用

创建主程序文件：

touch app.py

编辑app.py文件，添加以下代码：

import streamlit as st
from transformers import AutoTokenizer, AutoModelForCausalSeq2Seq
import torch

# 设置页面标题
st.set_page_config(page_title="DeepSeek R1 智能助手")

# 缓存加载模型和分词器
@st.cache_resource
def load_model():
    model_path = "/root/ds_1.5b"
    tokenizer = AutoTokenizer.from_pretrained(model_path)
    model = AutoModelForCausalSeq2Seq.from_pretrained(
        model_path,
        device_map="auto",
        torch_dtype="auto"
    )
    return tokenizer, model

tokenizer, model = load_model()

# 初始化对话历史
if "messages" not in st.session_state:
    st.session_state.messages = []

# 清空对话函数
def clear_chat():
    st.session_state.messages = []
    torch.cuda.empty_cache()

# 侧边栏
with st.sidebar:
    st.title("DeepSeek R1 设置")
    st.button("🧹 清空对话", on_click=clear_chat)

# 显示历史消息
for message in st.session_state.messages:
    with st.chat_message(message["role"]):
        st.markdown(message["content"])

# 用户输入
if prompt := st.chat_input("考考 DeepSeek R1..."):
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.markdown(prompt)
    
    # 生成回复
    with st.chat_message("assistant"):
        with st.spinner("思考中..."):
            # 准备输入
            inputs = tokenizer.apply_chat_template(
                st.session_state.messages,
                add_generation_prompt=True,
                return_tensors="pt"
            ).to(model.device)
            
            # 生成回复
            with torch.no_grad():
                outputs = model.generate(
                    inputs,
                    max_new_tokens=2048,
                    temperature=0.6,
                    top_p=0.95,
                    do_sample=True
                )
            
            # 处理回复
            response = tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True)
            
            # 格式化输出
            if "<|im_start|>assistant" in response:
                response = response.split("<|im_start|>assistant")[-1]
            response = response.replace("<|im_end|>", "").strip()
            
            st.markdown(response)
    
    st.session_state.messages.append({"role": "assistant", "content": response})

4. 启动和使用指南

4.1 启动服务

在项目目录下运行：

streamlit run app.py

首次启动需要一些时间加载模型（大约10-30秒），之后会显示本地访问地址，通常是http://localhost:8501。

4.2 开始对话

在浏览器中打开显示的地址，你会看到简洁的聊天界面：

1. 在底部输入框输入你的问题
2. 按回车发送消息
3. 等待模型生成回复
4. 回复会以清晰的气泡形式展示

4.3 使用技巧

• 复杂问题：可以问数学题、编程问题、逻辑推理等需要多步思考的问题
• 连续对话：模型会记住之前的对话上下文，可以进行多轮交流
• 清空对话：点击侧边栏的清空按钮可以开始新的话题
• 思考过程：模型会自动展示推理过程，让你了解它的思考逻辑

5. 常见问题解决

5.1 模型加载失败

如果模型加载失败，检查模型文件路径是否正确：

ls -la /root/ds_1.5b/

确保包含以下文件：

• config.json
• model.safetensors
• tokenizer.json

5.2 显存不足问题

如果遇到显存不足，可以修改模型加载方式：

model = AutoModelForCausalSeq2Seq.from_pretrained(
    model_path,
    device_map="auto",
    torch_dtype="auto",
    load_in_8bit=True  # 使用8bit量化减少显存使用
)

5.3 性能优化

如果响应速度较慢，可以调整生成参数：

outputs = model.generate(
    inputs,
    max_new_tokens=1024,  # 减少生成长度
    temperature=0.7,
    top_p=0.9,
    do_sample=True
)

6. 总结

通过这个教程，你已经成功在WSL2的Ubuntu环境中部署了DeepSeek-R1-Distill-Qwen-1.5B模型。这个轻量级模型为你提供了本地化的智能对话服务，既保证了数据隐私，又提供了强大的推理能力。

这个解决方案特别适合：

• 需要本地化部署的场景
• 对数据隐私有要求的应用
• 教育资源和个人学习使用
• 开发和测试AI应用原型

模型在逻辑推理、数学解题、代码编写等方面表现优秀，而且能够清晰展示思考过程，非常适合教育和技术探索用途。所有操作都在本地完成，不需要担心数据安全问题。

现在你可以开始体验本地智能对话的便利了，尝试问一些需要深度思考的问题，观察模型的推理过程，相信你会对这个轻量级模型的能力感到惊喜。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。