一、安装Ollama框架

Ollama 是一款开源的本地大语言模型运行框架,旨在简化大型语言模型(LLM)的本地部署、运行和管理。

下载Ollama框架安装软件,https://ollama.com/

下载后直接点击安装即可,默认是安装到C盘。

二、下载deepseek的蒸馏模型

此网址下https://ollama.com/    Models

三、本地部署deepseek

打开命令提示符这个程序或者快捷键win + r 收入cmd

以上安装的ollama框架,输入ollama --help验证

选择自己需要安装的模型版本

赋值图中安装的模型。如:ollama run deepseek-r1:14b

输入命令后等待下载即可;如出现pulling manifest Error: pull model manifest: Get "https://registry.ollama.ai/v2/library/deepseek-r1/manifests/8b": net/http: TLS handshake timeout

多试几次即可。

部署deepseek可视化界面chatbox

此步之前的安装仅在命令窗口发起提问,安装chatbox是可为了可视化输入提问。点击网站https://chatboxai.app/zh

安装后运行chatbox

设置模型

模型提供方选择后本地安装的模型即可

以上完成后即可:可视化即可在输入框提问。断网也可访问。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐