
如何在Ubuntu系统上安装并配置Ollama和Ragflow+Deepseek-R1自定义知识库
在安装 Docker 之前,建议先更新系统包。来创建daemon.json文件,然后将以下内容复制到。表示监听所有网络接口,如果仅需要本地访问,可以改为。字段,指定新的端口。配置ollama 服务监听所有IP和端口11434。修改/ragflow/docker/.env文件,将。方式三、添加开机自启服务 ollama serve。如果文件或目录不存在,请手动创建。Ollama 的配置文件路径为。这
一、安装ollama
curl -fsSL https://ollama.com/install.sh | sh
在 Ubuntu 系统中,可以通过以下几种方法修改 Ollama 的默认端口(默认为 11434):
方法一:通过配置文件修改(永久生效)
(1).找到或创建配置文件:
Ollama 的配置文件路径为 ~/.ollama/config.json
。如果文件或目录不存在,请手动创建
(2)编辑配置文件
在配置文件中添加或修改 OLLAMA_HOST
字段,指定新的端口。例如,将端口改为 50002:
{
"OLLAMA_HOST": "0.0.0.0:50002"
}
其中,0.0.0.0
表示监听所有网络接口,如果仅需要本地访问,可以改为 127.0.0.1
(3)重启 Ollama 服务:
systemctl restart ollama
方法二:通过环境变量临时修改
(1)设置环境变量:
在启动 Ollama 之前,通过命令行设置环境变量(此方法在系统重启后失效):
export OLLAMA_HOST="0.0.0.0:50002"
ollama serve
或者使用 OLLAMA_PORT
变量:
export OLLAMA_PORT=50002
ollama serve
方式三、添加开机自启服务 ollama serve
关闭 ollama 服务
service ollama stop
修改配置文件
vim /etc/systemd/system/ollama.service
添加 Environment="OLLAMA_MODELS=/path/ollama_cache"
改为你的路径
添加 Environment="OLLAMA_HOST=0.0.0.0:50002"
配置ollama 服务监听所有IP和端口50002
重新加载配置
systemctl daemon-reload
重启ollama serve
systemctl start ollama
这三种变量都可以实现端口修改。
ollama 运行状态
systemctl status ollama
二、安装Docker
(1)、更新系统包
在安装 Docker 之前,建议先更新系统包。打开终端并运行以下命令:
apt-get update
apt-get upgrade -y
(2)卸载旧版本的 Docker(如果已安装)
如果你之前安装过 Docker,建议先卸载旧版本:
apt-get remove docker docker-engine docker.io containerd runc
(3)安装必要的依赖
安装一些必要的包,这些包用于支持 Docker 的安装:
apt-get install apt-transport-https ca-certificates curl gnupg-agent software-properties-common -y
(4)添加 Docker 的官方 GPG 密钥
为了确保安装包的安全性,需要添加 Docker 的官方 GPG 密钥:
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
(5)添加 Docker 的 APT 软件源
将 Docker 的官方 APT 软件源添加到系统中:
add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
(6)安装 Docker
更新包索引并安装 Docker:
apt-get update
apt-get install docker-ce docker-ce-cli containerd.io -y
(7)验证 Docker 是否安装成功
运行以下命令,检查 Docker 是否正常工作:
docker --version
(8)修改名docker 为国内镜像
首先运行 sudo vim /etc/docker/daemon.json
来创建daemon.json文件,然后将以下内容复制到daemon.json
文件中。
{
"registry-mirrors": [
"https://docker.1ms.run",
"https://docker.xuanyuan.me"
]
}
重启docker
service docker restart
查看添加的国内源是否生效
docker info | grep Mirrors -A 4
三、安装Ragflow
在服务上下载ragflow代码
git clone https://github.com/infiniflow/ragflow.git
修改/ragflow/docker/.env文件,将
找到这行代
RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim
修改为:
# RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim
修改ragflow-servce 端口号
运行代码
$ cd ragflow/docker
$ docker compose -f docker-compose.yml up -d
服务器启动并运行后检查服务器状态:
docker logs -f ragflow-server
启动浏览器访问
http://ip:50003
更多推荐
所有评论(0)