本文主要介绍在Windows系统中使用LM Studio本地部署DeepSeek。

1. 下载LM studio并安装

LM Studio - Discover, download, and run local LLMs

2. 设置语言

3. 到魔搭社区的模型库下载模型

https://modelscope.cn/

4. 选择适合自己电脑配置的模型大小的GGUF格式下载

此处以显存6G,以DeepSeek-R1-Distill-Qwen-7B-GGUF 进行下载

5. 本地电脑新建“models”文件夹,其中新建两层目录,将下载的模型放入其中

6. 启动LM Studio,将模型存放目录修改为"models"文件夹

7. 回到聊天界面,选择需要加载的模型

8. 配置完成,加载模型

9. 加载完成,开始使用

10. 文件上传分析

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐