Windows Deepseek本地部署
1.Windows 本地调用
A.本地CMD调用,在本地CMD端口通过输入ollama list查看已经安装的大模型name 然后复制名字输入ollama run 模型name 如下图所示。
在这里插入图片描述

B.通过三方开源软件调用本地模型,在部署模型的电脑上,安装三方调用软件,如Cherry Studio、Chatbox、anythingLLM等,然后在连接时候API地址填写127.0.0.1:11434 不同调用软件连接方式基本相同,参考如下方式即可。

一.Cherry Studio 连接如下图
在这里插入图片描述
在这里插入图片描述

二.Chatbox 连接如下图
在这里插入图片描述
在这里插入图片描述

2.内网间跨设备调用
A. 在部署端防火墙出入站规则中运行11434端口,允许
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

B.连接软件的API地址中输入部署设备IP:11434 进行调用,如上本地调用的的地址换成下图即可,假设部署电脑IP是XX.XX.XX.XX,API地址为http://XX.XX.XX.XX:11434

在这里插入图片描述
在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐