如何在自己电脑上部署一个DeepSeek运行起来!
相信大家对各类AI应用已经基本不陌生,但是大部分使用大模型要么通过下载官方APP,要么通过对应的大模型官网来使用。今天这篇教程,就来教大家如何在自己的电脑上部署一个DeepSeek运行起来。首先,我们需要下载和安装一个软件,cherry studio(官网地址:https://cherry-ai.com/)。完成下载安装后,我们通过桌面端打开cherry studio,我们就能官方提供的默认大模型
相信大家对各类AI应用已经基本不陌生,但是大部分使用大模型要么通过下载官方APP,要么通过对应的大模型官网来使用。
今天这篇教程,就来教大家如何在自己的电脑上部署一个DeepSeek运行起来。
首先,我们需要下载和安装一个软件,cherry studio(官网地址:https://cherry-ai.com/)。
完成下载安装后,我们通过桌面端打开cherry studio,我们就能官方提供的默认大模型,包含deepseek V3和R1,我们在下图红框位置来切换大模型。
同时,我们可以通过配置功能来添加更多版本的大模型,比如deepseek蒸馏后的32B和70B版本,有助于我们了解不同大模型版本的具体性能,这样就可以非常清楚自己到底需要一个32B版本的还是一个满血版本的。
毕竟,不同大模型版本,其部署成本差异巨大。
怎么来添加更多的大模型版本呢?
1 添加不同版本的大模型
我们点击左下角的设置按钮,进入【模型服务】页面。
这里,就是来配置我们的模型服务提供方,也就是我们使用的大模型能力从何而来。
可以是大模型官网的API、也可以是AI本地化工具、或者类似硅基流动这种云资源平台。
这里,我们选择相对方便的硅基流动,也就是我们的大模型是由云资源服务商提供,那么意味着我们的大模型并不是完全本地化部署的,在使用过程中,要注意数据安全问题。
我们选择到硅基流动后,会要求我们输入一个API密钥,不慌。我们点击旁边的【获取】按钮,然后跟着引导登录硅基流动即可,没有账号那就注册一个。
首次注册硅基流动,官方会赠送我们14元的余额,够支撑我们用挺久的了。进入硅基流动,我们在左侧菜单栏找到【API密钥】,然后进入页面选择新建一个密钥,复制密钥至cherry studio即可。
以上流程搞定之后,我们在cherry studio刚才的页面下,找到底部的【管理】按钮,点击一下。
你会看见很多版本硅基流动提供的模型,找到你想要添加的模型,点击旁边的“+”即可。
完成以上配置,你就可以体验不同版本的大模型了。
2 联网搜索功能配置
平时我们在使用DeepSeek的时候,底部会有一个联网搜索功能,这里我们也统一可以为配置好的大模型添加联网搜索功能。
我们还是在刚刚的设置功能中找到【网络搜索】栏,选择一个搜索服务商即可,由google、baidu、bing,选择不同的搜索服务商,就决定AI联网搜索最终内容来源。
完成配置后,我们回到大模型对话框中,点亮底部的像网络一样的球型图标即可。
3 知识库配置
在很多场景下,我们使用大模型都需要搭配到知识库一起。下面,我们就来讲怎么给我们的大模型配置知识库~
我们在左侧功能栏找到【知识库】功能模块,然后添加一个新的知识库。就可以看到下面截图这个样子的页面。
这时候,我们就可以给知识库添加内容了,支持文件、目录、网址、网站、笔记五种类别的知识,下面我们一个一个来说。
-
文件:这个很好理解,就是我们常见的一些本地文档,支持TXT、MD、HTML、PDF、DOCX、PPTX、XLSX等格式。
-
目录:就是直接添加一个本地文件夹目录,未来你往这个文件夹丢文档资料,都可以被AI读取到。
-
网址:即添加网页地址,添加之后,大模型就会自行读取网页地址中的内容,为我们提供解答。
-
网站:即添加站点地图,很多人不理解站点地图和网址的区别,这里做个简要的解释:是一种包含网站中多个网页网址的文件或结构化列表,它是对网站整体结构和内容的一种组织和呈现方式,并非单个资源的地址。比如一个包含网站首页、产品页、文章页等多个页面网址的 XML 文件就是常见的站点地图。
-
笔记:就是自定义添加一段笔记作为知识。
知识库这块,我们常用的可能是前三种类别。
当我们完成相关知识添加后,我们回到大模型对话框页面,就可以通过底部的知识库按钮,直接引用我们的知识库。
比如我们要做一个法律助手,我们就可以通过本地文件和一些官网网址来组合成我们的专业化知识库,然后当我们向大模型提问时,就选择引用我们的知识库即可。
除此之外,cherry studio还提供了智能体功能,我们可以根据角色或者具体需求找到对应的智能体,然后添加到对话助手中即可。
如果你想让你的大模型纯粹的实现本地化,即数据储存在本地,即使断网也能正常使用,那还需要另外一个工具——LM studio或者Olama。
完全的本地化部署,我们后面找机会再讲,大家赶紧去把cherry studio体验起来吧~
更多推荐
所有评论(0)