
本地部署Deppseek教程
1.下载LM Studio程序2.关于如何运行这个软件3.下载模型3.1选择developer模式3.2点开运行时3.3下载模型4.修改入站出站规则4.1修改入站规则4.2修改出站规则5.测试使用
文章目录
1.下载LM Studio程序
这个LM Studio就是一个桌面的运行程序,类似于我们之前安装的这个visual studio这样的软件,studio本意是一个工作室,演播室的意思,而这个LM全称是large language model,翻译之后也就是大语言模型;
综上所述,这个LM Studio实际上就是围绕着大语言模型打造的桌面应用程序,给我们用户提供了模型的使用,运行,探索的一个环境,仅此而已;
下载官网:直接搜索这个网址这个网址]就可以找到我们的下载地址:
2.关于如何运行这个软件
上面的这个软件下载之后,我们有两个方法运行它:
-
在虚拟机上面去运行这个LM studio软件;
-
在windows上面运行,但是需要改变他的入站和出站的规则,把他的网络完全禁用掉;
3.下载模型
3.1选择developer模式
3.2点开运行时
3.3下载模型
在左侧这个model search里面进行模型的搜索并且下载这个模型:
4.修改入站出站规则
4.1修改入站规则
这个实际上就是打开我们的防火墙的配置
选择左边的出站规则,找到右边的新建规则:
选择程序:
选择某一程序:这个时候找到exe的安装目录,然后去 选入进来就可以了;
选择链接的方式为阻止链接:
接下来阻止的内容全部选择:
接下来是一个让我们命名的页面,这个时候我们直接起一个名字就可以了,这个步骤就不演示了;
到此为止,针对于那个exe的入站规则额的修改就结束了,接下来,我们就需要按照上面的那个步骤,分别对于另外的两个程序进行规则的修改;
一个是elevate这个程序:
还有一个就是下面的这个Ims.exe这个程序,这个是在我们的C盘里面,上面的两个都是在我们自定义的安装路径里面;
4.2修改出站规则
上面的修改的三个的入站的规则,我们这一步就是对于上面对于三个的出站规则进行修改;
实际上就是这个左边选择的位置变了,其他的软件的选择,操作的方式都是完全一样的;
5.测试使用
选择这个模型,配置他的上下文context length(这个决定的是他兼顾的历史数据,但是这个需要更大的性能消耗)GPU,CPU,这个我们可以慢慢的测试;
当加载完毕,我们就可以在那个输入框里面进行输入,让他进行推理就可以了;
更多推荐
所有评论(0)