windows系统使用ollama本地部署deepseek教程
·
一.安装ollama
ollama简述
ollama 是一个开源的语言模型运行时,可在本地计算机上高效运行各种大型语言模型
ollama安装步骤
1.访问https://ollama.com,点击download。
2.双击安装程序,点击安装,直接下一步即可。
二.ollama拉取deepseek-r1:7b模型并运行
ollama常用命令
ollama create <自定义模型名称> -f <配置文件路径>
基于已有的基础模型创建自定义模型
ollama show <模型名称:版本>
查看模型详细信息
ollama run <模型名称:版本>
运行模型
ollama stop <模型名称:版本>
停止模型
ollama pull <模型名称:版本>
拉取模型
ollama push <模型名称:版本>
将本地创建的自定义模型推送到远程模型库
ollama list
列出本地模型
ollama ps
显示当前正在运行的模型实例相关信息
ollama cp <源模型> <目标模型>
复制模型
ollama rm <模型名称:版本>
删除本地模型
deepseek模型拉取与运行步骤
1.ollama拉取deepseek-r1:7b模型:ollama pull deepseek-r1:7b
使用此命令ollama会从huggingface上拉取模型,huggingface类似于代码的github。
2.ollama运行deepseek-r1:7b模型:ollama run deepseek-r1:7b
三.部署Open WebUI,在可视化web页面上访问deepseek
1.docker拉取open-webui镜像:docker pull ghcr.io/open-webui/open-webui:latest。此命令会从ghcr.io镜像仓库拉取镜像
2.docker运行open-webui容器:docker run -d -p 3000:8080 --name open-webui --restart always ghcr.io/open-webui/open-webui:latest
3.访问Open WebUI页面,创管理员账号并登录
当然,也可选择Chatbox AI、Page Assist 浏览器插件等其他好用的 Web UI 工具
Page Assist较为简单,需科学上网,然后打开谷歌浏览器,点击设置-扩展程序-访问chrome应用商店,搜索page assist,再添加至Chrome即可。大家有什么问题可以在评论区提出~~
更多推荐
所有评论(0)