基于Linux部署LobeChat集成Ollama+DeepSeek实现本地大模型聊天应用
基于Linux CentOS 7部署LobeChat集成Ollama + DeepSeekR1:1.5b 实现本地大模型聊天应用；包含docker镜像源拉取失败解决方案；LobeChat基础配置；
目录
部署环境：Linux CentOS 7
docker部署官方手册：通过 Docker 部署 LobeChat · LobeChat Docs · LobeHub
1、拉取lobechat的docker镜像
docker hub地址：https://hub.docker.com/r/lobehub/lobe-chat
docker pull lobehub/lobe-chat:latest如果拉取失败，换个docker镜像源就行；
配置镜像源可以查看：Linux部署Docker-CSDN博客
2、启动LobeChat的docker镜像：
lobechat官方相关文档：在 LobeChat 中使用本地大语言模型（LLM） · LobeCha... · LobeHub
docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat3、启动deepSeek:R1大模型
ollama run deepseek-r1:1.5b4、集成ollama
ollama部署教程：Linux基于Ollama部署DeepseekR1模型-CSDN博客
官方文档：在 LobeChat 中使用 Ollama · LobeChat Docs · LobeHub
与ollama集成：在 LobeChat 中集成 Ollama · LobeChat Docs · LobeHub
配置好后，回到首页，选择Ollama服务中对应的模型即可：
5、Q&A
注意：如果ollama在部署时，没有修改默认配置，是不允许远程访问和跨域的，需要修改配置；
在ollama的服务配置文件中，添加环境变量：
vi /etc/systemd/system/ollama.service在[service]部分添加Environment：
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"重载并重启ollama服务
sudo systemctl daemon-reload
sudo systemctl restart ollama如果配置后还是无法访问，请确保ollama所在服务器的防火墙是否已开放11434的端口；
# 查看所有打开的端口：
firewall-cmd --zone=public --list-ports
# 开放防火墙指定端口
firewall-cmd --zone=public --add-port=11434/tcp --permanent
# 重载防火墙配置
firewall-cmd --reload如果还是无法使用，请确保ollama所在的服务器内存中有正在运行的大模型，因为ollama的默认配置是一个大模型默认只存活5min；
如需修改默认存活时间：（两种方案：局部or全局）
1、局部配置
# 在启动命令中指定keepalive时长
ollama run deepseek-r1:1.5b --keepalive 10m2、全局配置
# 在ollama.service文件中配置环境变量
# 比如修改成10分钟存活时间
[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
#然后记得重载配置并重启服务即可
欢迎加入DeepSeek 技术社区。在这里，你可以找到志同道合的朋友，共同探索AI技术的奥秘。
更多推荐
8
0- 0
已为社区贡献2条内容
所有评论(0)