1.部署环境配置

我个人用的是Mac的m1pro 16+512配置,我跑了1B的版本很流畅,7B的也可以跑起来,稍微感觉有一些卡顿。

需要安装Git-lfs,访问官网下载安装包安装,这个工具是用于下载大型文件必备的软件,这里用来下载大模型。

其次是安装conda,我选择的是安装软件anaconda,官网地址

2.创建虚拟环境

以上是界面化操作,如果用命令也是可以的

conda create -n Janus python=3.10 -y
conda activate Janus

下一步是克隆Janus项目到本地,可以理解为是运行大模型的程序

git clone https://github.com/deepseek-ai/Janus.git
cd Janus

继续下一步,给项目安装依赖

pip install -e .

继续下一步安装ui库,可以理解为你和大模型对话的界面

pip install gradio
// 也可以用国内镜像
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple --upgrade gradio

3.下载大模型到本地

模型下载网站,魔搭

下载完成后,在本地可以看到模型的文件夹

4.运行多模态大模型

第一步先找到运行大模型的程序,上文标橙色的地方

修改红框处代码,此处一定要写对大模型的地址

然后回到命令行,执行 python demo/app_januspro.py

到此处就可以和多模态大模型对话了!!

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐