实验项目 1：DeepSeek 本地部署实验

一、 实验目的

本次实验旨在通过 Ollama 工具实现 DeepSeek 模型 的本地化部署，将模型运行从云端迁移至本地计算设备，降低对网络和云端服务的依赖，确保在网络不稳定或受限的情况下仍能稳定使用模型。实验重点在于完成模型的本地部署，并通过 Chatbox AI 构建可视化交互界面，为用户提供友好的操作体验，便于测试和探索模型功能。同时，本地部署有效提升了数据隐私与安全性，避免敏感数据在传输过程中的泄露风险，满足对数据安全有严格要求的场景需求。此外，实验还尝试对模型进行功能拓展与定制化开发，探索其在自然语言处理等领域的潜力，为后续优化和应用奠定基础。

二、 实验内容

1. 环境准备

   • 硬件环境：查看本地计算设备配置。
   • 软件环境：安装 Ollama。
   • 模型获取：通过 Ollama 下载 DeepSeek 模型及相关配置文件。

2. 模型部署

   • 使用 Ollama 在 D 盘部署 DeepSeek 模型，确保服务正常运行。
   • 测试模型的基本功能，验证部署成功。

3. 性能测试与优化

   • 测试不同硬件配置下的模型运行性能（如推理速度、资源占用率等）。
   • 调整 Ollama 配置参数，优化性能与资源消耗的平衡。

4. 数据隐私与安全验证

   • 验证数据在本地环境中的处理流程，确保数据不外泄。
   • 测试模型在数据加密、访问控制等方面的安全性。

三、 实验原理

1. DeepSeek 模型架构
   DeepSeek 是一种基于深度学习的自然语言处理模型，其核心架构包括 Transformer 编码器-解码器结构，通过大规模数据训练实现高效的文本生成与理解。

2. Ollama 部署原理
   Ollama 是一个用于本地部署和管理大型语言模型的工具，支持通过命令行快速下载、配置和运行模型。通过 Ollama，用户可以在本地环境中高效部署 DeepSeek 模型。

3. 性能优化原理
   通过调整 Ollama 的配置参数（如批量大小、线程数等）和硬件资源配置（如 GPU 加速、内存分配等），优化模型的运行效率。

4. 数据安全原理
   本地部署避免了数据在网络传输过程中的泄露风险，同时可通过加密技术和访问控制机制进一步增强数据安全性。

四、 实验环境

1. 硬件环境

   • CPU：Intel Core i5-12500H
   • GPU：NVIDIA GeForce RTX 3050

2. 软件环境

   • 操作系统：Windows 11
   • 部署工具：Ollama 最新版本
   • 其他依赖：参考 Ollama 官方文档

3. 模型版本

   • DeepSeek 模型（通过 Ollama 下载）

五、 实验步骤、结果与分析

1. 实验步骤

• 步骤 1：安装 Ollama

  1. 下载 Ollama 安装包并安装到 D 盘。(Ollama官网：Ollama)

  2. 下载之后如果点击直接安装(install)默认会安装在C盘,所以需要安装完成之后在D盘新建一个文件夹（如：Ollama）,将Ollama安装包解压到该文件夹中.

     OllamaSetup.exe /DIR=D:\Ollama
     

     
     

• 步骤 2：根据硬件设备选择合适的 DeepSeek 模型

  1. 查看本地硬件：(使用 DirectX 诊断工具查看显卡信息)
     DirectX 诊断工具（DxDiag）是 Windows 系统自带的一个实用工具，可以提供关于系统和显卡的详细信息。以下是具体的操作步骤：

     • 按下键盘上的 Win + R 键，打开“运行”对话框。
     • 在对话框中输入 dxdiag，然后按下 回车键。
     • 此时会弹出 DirectX 诊断工具 窗口。
     • 在 DirectX 诊断工具窗口中，切换到 “显示” 选项卡。
     • 在“显示”选项卡中，您可以查看以下显卡的详细信息：
       • 名称：显卡的具体型号。
       • 制造商：显卡的生产厂商。
       • 芯片类型：显卡的核心芯片型号。
       • 显存大小：显卡的显存容量。
       • 驱动程序版本：当前安装的显卡驱动版本。
       • 显示模式：当前显示器的分辨率和刷新率。

  

  2. 根据显卡性能和显存大小选择合适的 DeepSeek 模型版本：
     1.5b、7b、8b、14b、32b、70b或671b，有很多版本可选，模型越大，要求电脑内存、显卡等的配置越高。
     • 如果显卡性能有限（如 RTX 3050），建议下载轻量版模型以减少资源占用(32b以下)
  3. 验证模型下载完成。

• 步骤 3：部署 DeepSeek 模型

  1. 启动 DeepSeek 模型服务：

     ollama run deepseek-r1:14b #后面是模型名称
     

  2. 检查服务状态，确保模型正常运行。

3. 退出模型：

   /bye
   

• 步骤 4：构建可视化工具

  1. 下载安装包：
     下载：Chatbox AI
     

  2. 选择模型（deepseek-r1:14b）。

  

  2. 开始聊天。
     

2. 实验结果

成功构建了一个基于 Ollama 和 Chatbox AI 的可视化交互界面，用于实时监控和展示 DeepSeek 模型的运行状态、性能指标以及数据处理流程。该工具通过集成 Chatbox AI 的交互功能，实现了以下功能：

1. 实时性能监控：通过 Chatbox AI 的界面，实时展示 DeepSeek 模型的推理速度、资源占用率（CPU、GPU、内存）等关键性能指标。
2. 数据处理流程可视化：以流程图的形式展示数据从输入到输出的完整处理路径，包括数据加密、存储和传输过程。
3. 交互式功能测试：利用 Chatbox AI 的交互特性，用户可以通过自然语言查询模型的运行状态、性能瓶颈以及优化建议，增强了工具的用户体验。
   模型功能拓展展示：通过可视化界面，展示了对 DeepSeek 模型进行微调和定制化开发后的功能效果，如特定领域的文本生成、问答系统等。

六、 实验总结

本次实验基于 Ollama 工具成功实现了 DeepSeek 模型的本地部署，验证了其在本地环境中的可行性和优势。通过根据硬件设备选择合适的模型版本，有效避免了资源占用过高导致的电脑卡顿问题。同时，本地部署提升了数据隐私与安全性，为敏感数据的处理提供了保障。此外，借助 Ollama 的灵活性，探索了 DeepSeek 模型在更多场景中的应用潜力。未来可进一步优化模型性能，并探索其在更多领域的创新应用。