1.下载LM Studio程序

这个LM Studio就是一个桌面的运行程序,类似于我们之前安装的这个visual studio这样的软件,studio本意是一个工作室,演播室的意思,而这个LM全称是large language model,翻译之后也就是大语言模型;

综上所述,这个LM Studio实际上就是围绕着大语言模型打造的桌面应用程序,给我们用户提供了模型的使用,运行,探索的一个环境,仅此而已;

下载官网:直接搜索这个网址这个网址]就可以找到我们的下载地址:

2.关于如何运行这个软件

上面的这个软件下载之后,我们有两个方法运行它:

  1. 在虚拟机上面去运行这个LM studio软件;

  2. 在windows上面运行,但是需要改变他的入站和出站的规则,把他的网络完全禁用掉;

3.下载模型

3.1选择developer模式

3.2点开运行时

3.3下载模型

在左侧这个model search里面进行模型的搜索并且下载这个模型:

4.修改入站出站规则

4.1修改入站规则

这个实际上就是打开我们的防火墙的配置

选择左边的出站规则,找到右边的新建规则:

选择程序:

选择某一程序:这个时候找到exe的安装目录,然后去 选入进来就可以了;

选择链接的方式为阻止链接:

接下来阻止的内容全部选择:

接下来是一个让我们命名的页面,这个时候我们直接起一个名字就可以了,这个步骤就不演示了;

到此为止,针对于那个exe的入站规则额的修改就结束了,接下来,我们就需要按照上面的那个步骤,分别对于另外的两个程序进行规则的修改;

一个是elevate这个程序:

还有一个就是下面的这个Ims.exe这个程序,这个是在我们的C盘里面,上面的两个都是在我们自定义的安装路径里面;

4.2修改出站规则

上面的修改的三个的入站的规则,我们这一步就是对于上面对于三个的出站规则进行修改;

实际上就是这个左边选择的位置变了,其他的软件的选择,操作的方式都是完全一样的;

5.测试使用

选择这个模型,配置他的上下文context length(这个决定的是他兼顾的历史数据,但是这个需要更大的性能消耗)GPU,CPU,这个我们可以慢慢的测试;

当加载完毕,我们就可以在那个输入框里面进行输入,让他进行推理就可以了;

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐