🌟 引言

随着大语言模型(LLM)技术的快速发展,本地化部署开源模型已成为开发者和研究者的核心需求。本文将详细介绍在 Windows 11 环境下,基于 Ollama 框架 部署 DeepSeek-R1 模型,并集成 Open WebUI 可视化交互界面 的全流程技术方案。

📋 软件版本

软件名称版本号说明
Windows 1123H2操作系统
Ollama0.5.11模型部署框架
Anaconda2024.10Python 环境管理工具
Open WebUI0.5.20可视化交互界面

    一、Ollama 部署 DeepSeek-R1 模型

    1.1 安装 Ollama 框架

    • 访问 Ollama官网下载 Windows 安装包

    • 双击运行安装程序,注意勾选 “Add to PATH” 选项

    • 验证安装,打开 PowerShell,执行以下命令:

      ollama --version

      若显示版本号,则表明 Ollama 安装成功。

    1.2 部署 DeepSeek-R1 模型

    注:本文以部署 DeepSeek-R1:7B 模型为例,关于该模型的其他版本,部署方式类似

    • 拉取模型文件(约占 14GB 存储空间)
      ollama pull deepseek-r1:7b
    • 启动模型服务
      ollama run deepseek-r1:7b

    💡 验证部署:在终端输入测试指令,若返回符合预期的文本输出,则部署成功。

    二、配置Anaconda环境

    2.1 安装Anaconda

    • 访问Anaconda官网下载Python 3.12版本

    • 双击运行安装程序,注意勾选 “Add to PATH” 选项

    • 验证安装,打开 Anaconda PowerShell Prompt,执行以下命令:

      conda --version

      若显示版本号,则表明 Anaconda 安装成功。

    2.2 创建虚拟环境

    • 创建 Python 3.12 虚拟环境
      conda create -n deepseek python=3.12 -y

      📌 参数说明

      参数说明
      -n deepseek指定虚拟环境名称为 deepseek
      python=3.12设定 Python 版本为 3.12
      -y自动确认安装,无需手动干预
    • 激活虚拟环境 

      conda activate deepseek

    激活后,命令行提示符将显示(deepseek)前缀。 

    三、集成 Open WebUI 可视化界面

    3.1 安装 Open WebUI

    pip install open-webui

    3.2 启动服务

    open-webui serve

    注意事项

    • 若未运行科学上网工具,可能因需从 Hugging Face 下载模型而报错(国内访问速度较慢)。
    • 解决方案:提前下载模型文件并解压到指定路径。

    💡 离线加速配置

    1. 下载模型压缩包(博主已提前打包,📦 压缩包已置顶
    2. 解压到指定目录
      C:\Users\Your Name\.cache\huggingface\hub
      

      ⚠️ 请将 Your Name 替换为当前 Windows 用户名。

    3.3 可视化交互

    3.4 断网离线配置

    若需离线运行,可进行以下操作。

    1. 点击左下角 设置 -> 管理员设置 -> 外部连接
    2. 关闭 OpenAI API
    3. 在 管理 Ollama API 连接 处输入 http://127.0.0.1:11434
    4. 保存配置
    5. 系统环境变量中添加 OLLAMA_HOST:127.0.0.1:11434
    6. 完成上述步骤后即可断网离线运行

     ✨ 总结

    本文通过以下步骤完成本地化部署:

    1. 安装 Ollama 并部署 DeepSeek-R1:7B 模型
    2. 配置 Python 虚拟环境
    3. 集成可视化交互界面
    4. 实现离线运行

    通过该方案,开发者可快速构建私有 LLM 服务,为 AI 应用开发提供坚实底座。

    📢 扩展建议

    • 模型优化:通过 ollama build 自定义模型参数
    • 性能监控:使用 ollama status 查看资源占用
    • 多模型管理:通过 Ollama Hub 探索更多开源模型

    如果您有任何疑问,欢迎在评论区留言交流! 🚀

    Logo

    欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

    更多推荐