uv安装

windows(请在powershell执行):

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

Git地址

git clone https://github.com/eosphoros-ai/DB-GPT.git

cd DB-GPT

依赖安装

这里只用到代理模型，没有涉及到本地模型

uv sync --all-packages --frozen --extra "base" --extra "proxy_openai" --extra "rag" --extra "storage_chromadb" --extra "dbgpts"

LLAMA-CPP

uv sync --all-packages --frozen --extra "base" --extra "llama_cpp" --extra "rag" --extra "storage_chromadb" --extra "quant_bnb" --extra "dbgpts"

全量依赖(比如LLMs使用的本地模型，embedding使用的OpenAI Proxy等)

uv sync --all-packages --frozen --extra "base" --extra "proxy_openai" --extra "hf" --extra "llama_cpp" --extra "rag" --extra "storage_chromadb" --extra "dbgpts" --extra "quant_bnb"

修改配置文件

启动服务

uv run python packages/dbgpt-app/src/dbgpt_app/dbgpt_server.py --config configs/dbgpt-siliconflow.toml

这样就成功启动啦

首页