DeepSeek-R1-Distill-Qwen-1.5B从零开始:Ubuntu+Docker环境下的完整部署流程
本文介绍了如何在星图GPU平台自动化部署🐋 DeepSeek-R1-Distill-Qwen-1.5B本地智能对话助手(Streamlit驱动)镜像。该镜像提供了一个轻量级AI对话模型,支持在本地环境中进行智能问答、逻辑推理和代码生成等任务,用户可通过简洁的Web界面快速体验AI对话应用。
DeepSeek-R1-Distill-Qwen-1.5B从零开始:Ubuntu+Docker环境下的完整部署流程
1. 项目概述
DeepSeek-R1-Distill-Qwen-1.5B是一个超轻量级的智能对话模型,专门为本地化部署设计。这个模型结合了DeepSeek优秀的逻辑推理能力和Qwen成熟的模型架构,经过蒸馏优化后,在保持强大性能的同时大幅降低了计算资源需求。
最吸引人的是,这个模型只有1.5B参数,这意味着它可以在普通的GPU甚至CPU环境下流畅运行,不需要昂贵的专业显卡。无论是个人学习使用还是小规模业务部署,都能轻松胜任。
项目内置了基于Streamlit的聊天界面,操作简单直观,就像使用普通的聊天软件一样。你不需要懂复杂的命令行操作,打开网页就能开始对话。模型特别擅长逻辑推理、数学解题、代码编写等需要思考的任务,会自动展示完整的思考过程。
2. 环境准备
2.1 系统要求
在开始部署之前,请确保你的系统满足以下基本要求:
- 操作系统:Ubuntu 18.04或更高版本(其他Linux发行版也可,但本文以Ubuntu为例)
- Docker:需要安装Docker Engine 20.10或更高版本
- 硬件要求:
- GPU版本:至少4GB显存(推荐8GB以上)
- CPU版本:至少8GB内存(推荐16GB以上)
- 存储空间:需要约3GB空间用于存放模型文件
2.2 安装Docker
如果你的系统还没有安装Docker,可以按照以下步骤安装:
# 更新软件包列表
sudo apt-get update
# 安装必要的依赖包
sudo apt-get install apt-transport-https ca-certificates curl software-properties-common
# 添加Docker官方GPG密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
# 添加Docker仓库
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
# 再次更新软件包列表
sudo apt-get update
# 安装Docker
sudo apt-get install docker-ce
# 验证安装是否成功
sudo docker run hello-world
如果看到"Hello from Docker!"的提示信息,说明Docker安装成功。
3. 部署步骤
3.1 拉取Docker镜像
首先需要获取项目所需的Docker镜像:
# 拉取DeepSeek-R1的Docker镜像
sudo docker pull your-docker-image-name:tag
请将your-docker-image-name:tag替换为实际的镜像名称和标签。通常可以在项目文档或镜像仓库中找到正确的镜像名称。
3.2 创建模型存储目录
我们需要在本地创建一个目录来存放模型文件:
# 创建模型存储目录
sudo mkdir -p /root/ds_1.5b
# 设置目录权限
sudo chmod 777 /root/ds_1.5b
这个目录将用于存放模型文件,确保Docker容器可以正常访问。
3.3 运行Docker容器
现在可以启动Docker容器了:
sudo docker run -d \
--name deepseek-chat \
-p 8501:8501 \
-v /root/ds_1.5b:/app/models \
your-docker-image-name:tag
参数说明:
-d:后台运行容器--name:给容器起个名字,方便管理-p 8501:8501:将容器的8501端口映射到主机的8501端口-v:将本地的模型目录挂载到容器内
3.4 首次启动等待
第一次启动时,系统需要加载模型文件,这个过程可能需要10-30秒。你可以在终端中查看日志来了解进度:
# 查看容器日志
sudo docker logs -f deepseek-chat
当看到"🚀 Loading: /root/ds_1.5b"这样的日志信息,并且没有错误提示时,说明模型加载成功。
4. 使用指南
4.1 访问聊天界面
在浏览器中打开以下地址来访问聊天界面:
http://你的服务器IP:8501
如果是本地部署,可以直接访问:
http://localhost:8501
4.2 开始对话
打开界面后,你会看到一个简洁的聊天窗口:
- 输入问题:在底部的输入框中输入你的问题
- 发送请求:按回车键发送
- 查看回复:模型会以气泡形式显示回复内容
试试问这些问题:
- "帮我解一道二元一次方程"
- "写一个Python爬虫代码"
- "解释一下什么是机器学习"
4.3 高级功能
多轮对话:模型支持连续的对话,能够记住之前的对话上下文,让交流更加自然。
思维链展示:对于复杂问题,模型会展示完整的思考过程,让你了解它是如何得出答案的。
清空对话:如果需要开始新的话题,点击左侧边栏的"清空"按钮,可以重置对话历史并释放显存。
5. 常见问题解决
5.1 端口冲突问题
如果8501端口已经被其他程序占用,可以改用其他端口:
sudo docker run -d \
--name deepseek-chat \
-p 8502:8501 \ # 将主机的8502端口映射到容器的8501端口
-v /root/ds_1.5b:/app/models \
your-docker-image-name:tag
5.2 模型加载失败
如果模型加载失败,检查以下几点:
- 目录权限:确保模型目录有正确的读写权限
- 磁盘空间:检查是否有足够的存储空间
- 网络连接:确保能够正常访问Docker仓库
5.3 性能优化建议
如果感觉响应速度较慢,可以尝试以下优化:
# 限制CPU使用核心数
sudo docker run -d \
--cpuset-cpus="0-3" \ # 使用前4个CPU核心
--name deepseek-chat \
-p 8501:8501 \
-v /root/ds_1.5b:/app/models \
your-docker-image-name:tag
# 或者限制内存使用
sudo docker run -d \
--memory="4g" \ # 限制使用4GB内存
--name deepseek-chat \
-p 8501:8501 \
-v /root/ds_1.5b:/app/models \
your-docker-image-name:tag
6. 总结
通过本文的步骤,你应该已经成功在Ubuntu系统上使用Docker部署了DeepSeek-R1-Distill-Qwen-1.5B模型。这个部署过程相对简单,即使是初学者也能按照步骤完成。
这个模型的优势在于它的轻量化和本地化特性。你不需要依赖云端服务,所有数据处理都在本地完成,既保证了数据隐私,又提供了稳定的服务。1.5B的参数规模在保证性能的同时,大大降低了硬件门槛。
无论是用于学习AI技术、开发智能应用,还是单纯体验对话AI的魅力,这个项目都是一个很好的起点。模型在逻辑推理、代码生成、数学解题等方面表现突出,特别是它的思维链展示功能,让你能够清晰看到AI的思考过程。
获取更多AI镜像
想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。
更多推荐



所有评论(0)