
DeepSeek 多模态大模型Janus-Pro本地部署教程
DeepSeek 多模态大模型Janus-Pro本地部署教程
·
1.部署环境配置
我个人用的是Mac的m1pro 16+512配置,我跑了1B的版本很流畅,7B的也可以跑起来,稍微感觉有一些卡顿。
需要安装Git-lfs,访问官网下载安装包安装,这个工具是用于下载大型文件必备的软件,这里用来下载大模型。
其次是安装conda,我选择的是安装软件anaconda,官网地址
2.创建虚拟环境
以上是界面化操作,如果用命令也是可以的
conda create -n Janus python=3.10 -y
conda activate Janus
下一步是克隆Janus项目到本地,可以理解为是运行大模型的程序
git clone https://github.com/deepseek-ai/Janus.git
cd Janus
继续下一步,给项目安装依赖
pip install -e .
继续下一步安装ui库,可以理解为你和大模型对话的界面
pip install gradio
// 也可以用国内镜像
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple --upgrade gradio
3.下载大模型到本地
下载完成后,在本地可以看到模型的文件夹
4.运行多模态大模型
第一步先找到运行大模型的程序,上文标橙色的地方
修改红框处代码,此处一定要写对大模型的地址
然后回到命令行,执行 python demo/app_januspro.py
到此处就可以和多模态大模型对话了!!
更多推荐
所有评论(0)