准备环境

设备:家用笔记本电脑,8核/16G/1Tb SSD/无独显

系统:windows10

软件环境(非源码部署不需要):conda 4.8.5、python3.7、git2.13

步骤

下载安装Ollama

下载地址:OllamaGet up and running with large language models.https://ollama.com/

 双击安装,连点下一步即可。

下载并启动DeepSeek模型

以小模型deepseek-r1:7b为例:

命令行执行:ollama run deepseek-r1:7b

效果如下:

这样,模型服务就启动了。API地址为:http://127.0.0.1:11434/v1

R1版本地址:https://github.com/deepseek-ai/DeepSeek-R1

其它模型如下,按自己硬件环境选择即可:

 

下载安装桌面客户端chatboxai(非必要)

下载地址:

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。https://chatboxai.app/zh 

双击安装,连点下一步即可。安装完成后,运行ChatBox客户端,点击设置配置,配置内容如下:

模型提供方:选OPENAI API

API秘钥:模型启动命令,如ollama run deepseek-r1:7b

API域名:就是前面ollama启动后那个服务的API地址http://127.0.0.1:11434/v1(默认端口11434)

模型:自定义模型

自定义模型名称:deepseek-r1:7b

保存就行了。

然后就可以用了。

家用PC这样的低算力环境下,DeepSeek比其它开放模型确实要强大很多。 

 

 

 

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐