LM Studio 介绍:

LM Studio是一款能够本地离线运行各类型大语言模型的客户端应用,通过LM Studio 可以快速搜索所需的llms类型的开源大语言模型,并进行运行。

通过使用LM Studio 在本地运行大语言模型可以更加快速的运行流畅的提问,并在独立的环境中保障数据不被监听和收集。

特点:本地、独立、离线

官网:https://lmstudio.ai/

硬件要求

硬件要求是硬性的如果不满足是无法运行模型的!!!!

清单:

GPU显卡 GTX3060TI 及以上显存8GB以上

CPU 频率子3.3GHZ以上即可

硬盘 250gb及以上空间大小

提示:

如果不满足的话则无法运行模型,或模型运行及其卡顿。

LM Studio的安装:

步骤一、进入到官网后我们点击如下按钮即可进行下载:

在这里插入图片描述

步骤二、下载完毕后,我们点击如下安装包执行文件:

在这里插入图片描述

步骤三、打开后进入到安装界面,如下图:

在这里插入图片描述
此处选择仅为我安装,并点击下一步进入到如下界面:
在这里插入图片描述
此处如果对安装文件目录有要求可以进行如下的设置变化,通过点击浏览进行:
在这里插入图片描述
选择目录后,点击安装即可进入到安装环节:
在这里插入图片描述
等待完毕后,点击下一步即可完成安装,安装后桌面会显示如下图标:
在这里插入图片描述

通过LM Studio 安装并本地运行DeepSeek模型

步骤一、双击快捷图标,打开我们的LM Studio 如下图:

在这里插入图片描述
选中一个模型,这里默认可以选择LLM模型,但是也可以点击如下图的 跳过菜单进行跳过:
在这里插入图片描述
跳过后即可进入到步骤二环节。

步骤二、进入到chat界面并点击顶部的选择按钮,进行搜索和下载新的模型:

在这里插入图片描述
搜索我们的DeepSeek模型,如下图:
在这里插入图片描述
点击search more …进入到检索界面,检索的信息中按照下图形式选中并点击下载即可:
在这里插入图片描述
等待下载完成…
在这里插入图片描述

步骤三、下载完毕后,chat界面选择运行的模型及配置信息,如下图:

在这里插入图片描述
点击模型,弹出配置参数表单,可以根据自己的电脑性能进行选择(性能越高,速度越快):
在这里插入图片描述
确认无误后,点击load Model即可,对于model的管理可以点击左侧的model的菜单加载进入:
在这里插入图片描述

本地运行DeepSeek效果:

在这里插入图片描述
可以看到已经在正常运行输出,笔者的电脑配置较低,所以回复情况等待较久,配置越高的电脑,速度越快,效果越好。

常见问题

出现提示消息属于无意义的英文提示

在这里插入图片描述

选择模型后,加载进度结束后,选择框中依旧没有选中的模型:

这是由于配置过低没有成功预加载导致,这个问题只能尝试换一个配置更高的电脑。

安装其他模型的方式:

说明:通过搜索model库当中的模型,与我们上文中安装deepseek模型的操作方式一样,如下则是其他开源大语言模型的安装操作。

在这里插入图片描述
下载完毕后再chat界面的顶部,选择这个模型即可:
在这里插入图片描述

大模型岗位需求

大模型时代,企业对人才的需求变了,AIGC相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。
在这里插入图片描述

掌握大模型技术你还能拥有更多可能性

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好,希望能够真正帮助到大家。

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

零基础入门AI大模型

今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

有需要的小伙伴,可以点击下方链接免费领取【保证100%免费

点击领取 《AI大模型&人工智能&入门进阶学习资源包》*

1.学习路线图

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
如果大家想领取完整的学习路线及大模型学习资料包,可以扫下方二维码获取
在这里插入图片描述

👉2.大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。(篇幅有限,仅展示部分)

img

大模型教程

👉3.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(篇幅有限,仅展示部分,公众号内领取)

img

电子书

👉4.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(篇幅有限,仅展示部分,公众号内领取)

img

大模型面试

**因篇幅有限,仅展示部分资料,**有需要的小伙伴,可以点击下方链接免费领取【保证100%免费

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

**或扫描下方二维码领取 **

在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐