LM Studio加载deepseek .gguf本地模型
LM Studio 建立一个文件夹作为，模型目录，但是开始总也不显示下载的模型，后来才知道需要包两层文件夹的目录才行。如我下的是这个模型：DeepSeek-Coder-V2-Lite-Instruct-IQ2_S.gguf。这样再选择lmstudio-ai的上一层文件夹，作为模型目录就可以在LM Studio中显示了。直接讲重点，首先去官网下载.gguf的文件，下载后保存到一个目录里面。第二层目录
·
直接讲重点，首先去官网下载.gguf的文件，下载后保存到一个目录里面
如我下的是这个模型：DeepSeek-Coder-V2-Lite-Instruct-IQ2_S.gguf
LM Studio 建立一个文件夹作为，模型目录，但是开始总也不显示下载的模型，后来才知道需要包两层文件夹的目录才行。
第一层目录名和gguf的文件名要相同
第二层目录名为：lmstudio-ai
这样再选择lmstudio-ai的上一层文件夹，作为模型目录就可以在LM Studio中显示了
整体目录层级如下：
欢迎加入DeepSeek 技术社区。在这里，你可以找到志同道合的朋友，共同探索AI技术的奥秘。
更多推荐
5
0- 0
已为社区贡献2条内容
所有评论(0)