现在的deepseek火爆程度,应该不用我多说了吧

Deepseek俨然成为30个地区apple store下载量第一的应用,他们的服务也经常被干崩。

正好,deepseek是开源的。那么,我们是否可以在本地部署大模型?答案是:当然可以!

今天教大家一个方法来部署deepseek,主要使用LMStudio 来进行部署,改天我会出用ollama

部署的方法,好的废话不多说,开始我们的内容吧!

第一步,准备工作

1.我们需要一台性能好点的电脑,最好有N卡

2.LMStudio软件(官方网站 or 123网盘

3.deepseek大模型

除了电脑其他的软件链接我都会放到简介,给个三连,快去看看吧~

第二步,安装LMStudio

  1. 打开LMstudio官网,点击下载,速度可以,但我也提供了我自己的网盘链接,点击下载。
  2. 打开我准备的安装包,点下一步,选择一个安装LMStudio的磁盘,然后狂点下一步,等待进度条跑完,就完成了。
  3. 我们打开deepseek,点右下角齿轮,找到语言选项,调成中文

第三步,下载模型

PS:首先LMStudio是可以自己下载模型的,但服务器在海外,所以需要一点手段,但我这没有这东西,所以有条件的调到第4步即可~

1.打开modelscope官网点模型库,搜索deepseek-R1 GGUF选择一个模型,这里模型的选择需要看你的显卡显存,可以参考一下B站痕继痕迹的表格

2.我们找到自己想要的模型,戳一下,再点模型文件,找到适合自己的下载。

3.我们找到LMStudio的模型目录,先创建一个目录,作为发布者,然后再创建一个目录,作为模型的目录,然后把模型拖进去,不出意外的话,模型这会正确显示的。

第四步,使用!

我们点聊天图标,然后创建一个对话,在上面选择我们的模型,点加载模型,等进度条跑完,就可开始对话了

PS:你也可以点药水图标,在这里设置提示词,来丰富你的AI哦~

好的本期视频就到这里,点个三连+关注,祝你玩的愉快~

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐