DeepSeek-r1本地化部署

  1. 直接部署

①https://ollama.com/下载ollama,默认安装位置在C:\Users\Administrator\AppData\Local\Programs\Ollama,通过命令提示符进入该界面的

②https://ollama.com/search依据自己的电脑配置下载deepseek-r1模型的1.5b版本等,复制命令ollama run deepseek-r1:1.5b,回车键 后自动安装,

安装后,运行也得输入ollama run deepseek-r1:1.5b

在 Send a message处输入查询或推理内容即可,

以上方法每次启动DeepSeek-r1需每次通过CMD启动,需要熟练DOS命令。断网也可以使用大模型。对于一般人现实意思不大。

2.UI部署

Ollama+Chatbox, UI部署是在直接部署的基础上增加UI界面,此时的Chatbox相当于一个UI界面,下载Chatbox安装,

别忘点击保存。然后点击新对话即可。

以上方法每次直接启动Chatbox,界面似网页版,断网也可以使用Chatbox进行问询。对于一般人现实意思也不大。

3.私有知识大模型部署

ollama+deepseek+bge-m3+Cherry Studio

bge-m3嵌入式私有部署模型打通私库与deepseek衔接,再打通架构IP就相当于局网可访问了,如监狱、银行等特殊行业。

查询自己已有的模型,

打开Cherry Studio按下图红色123进行设置。添加内容为自己查询已有的模型,

按下面456添加知识

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐