一 、下载安装LM Studio

1.下载

官网:LM Studio - Discover, download, and run local LLMs

如果访问不上可以使用网盘

夸克网盘:https://pan.quark.cn/s/857319d9d3f2

2.安装

一直无脑下一步即可(如果C盘空间不够可以改装其他盘)

二 、部署模型

1.下载模型

夸克网盘:https://pan.quark.cn/s/24ccf2f49891

或者自行去魔搭社区下载(大小要小于你的显存):模型库首页 · 魔搭社区

2.部署模型

第一步:打开LM Studio

 第二步:打开模型存储位置

第三步:创建双层目录

一定要后缀名为GGUF!!!

三 、使用模型

1.加载模型

尽量打开手动选择参数

选择要加载的模型

按Enter键

加载完成后(蓝色条消失)就可以愉快的对话啦!

如有问题加Q群:1041826141(不要加群主!!!)咨询(作者是学生,不一定有时间回复,没耐心勿进!)

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐