一、安装ollama

curl -fsSL https://ollama.com/install.sh | sh

在 Ubuntu 系统中,可以通过以下几种方法修改 Ollama 的默认端口(默认为 11434):

方法一:通过配置文件修改(永久生效)

(1).找到或创建配置文件

Ollama 的配置文件路径为 ~/.ollama/config.json。如果文件或目录不存在,请手动创建

(2)编辑配置文件

在配置文件中添加或修改 OLLAMA_HOST 字段,指定新的端口。例如,将端口改为 50002:

{
    "OLLAMA_HOST": "0.0.0.0:50002"
}

其中,0.0.0.0 表示监听所有网络接口,如果仅需要本地访问,可以改为 127.0.0.1

(3)重启 Ollama 服务
systemctl restart ollama

方法二:通过环境变量临时修改

(1)设置环境变量

在启动 Ollama 之前,通过命令行设置环境变量(此方法在系统重启后失效):

export OLLAMA_HOST="0.0.0.0:50002"
ollama serve

或者使用 OLLAMA_PORT 变量:

export OLLAMA_PORT=50002
ollama serve

方式三、添加开机自启服务 ollama serve

关闭 ollama 服务
service ollama stop
修改配置文件
vim  /etc/systemd/system/ollama.service

添加 Environment="OLLAMA_MODELS=/path/ollama_cache" 改为你的路径

添加 Environment="OLLAMA_HOST=0.0.0.0:50002" 配置ollama 服务监听所有IP和端口50002

重新加载配置
systemctl daemon-reload
重启ollama serve
systemctl start ollama

这三种变量都可以实现端口修改。

ollama 运行状态

systemctl status ollama

二、安装Docker

(1)、更新系统包

在安装 Docker 之前,建议先更新系统包。打开终端并运行以下命令:

apt-get update
apt-get upgrade -y
(2)卸载旧版本的 Docker(如果已安装)

如果你之前安装过 Docker,建议先卸载旧版本:

apt-get remove docker docker-engine docker.io containerd runc
(3)安装必要的依赖

安装一些必要的包,这些包用于支持 Docker 的安装:

apt-get install apt-transport-https ca-certificates curl gnupg-agent software-properties-common -y
(4)添加 Docker 的官方 GPG 密钥

为了确保安装包的安全性,需要添加 Docker 的官方 GPG 密钥:

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
(5)添加 Docker 的 APT 软件源

将 Docker 的官方 APT 软件源添加到系统中:

add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
(6)安装 Docker

更新包索引并安装 Docker:

apt-get update
apt-get install docker-ce docker-ce-cli containerd.io -y
(7)验证 Docker 是否安装成功

运行以下命令,检查 Docker 是否正常工作:

 docker --version
(8)修改名docker 为国内镜像

首先运行 sudo vim /etc/docker/daemon.json 来创建daemon.json文件,然后将以下内容复制到daemon.json文件中。

{
    "registry-mirrors": [
    "https://docker.1ms.run",
    "https://docker.xuanyuan.me"
  ]
}
重启docker 
service docker restart
查看添加的国内源是否生效
docker info | grep Mirrors -A 4

三、安装Ragflow

在服务上下载ragflow代码

git clone https://github.com/infiniflow/ragflow.git

修改/ragflow/docker/.env文件,将

找到这行代
RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim

修改为:

# RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim

修改ragflow-servce 端口号

运行代码

$ cd ragflow/docker
$ docker compose -f docker-compose.yml up -d

服务器启动并运行后检查服务器状态:

docker logs -f ragflow-server

启动浏览器访问

http://ip:50003

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐