最近在研究DeepSeek的本地化部署,之前写的一篇文章《Deepseek本地化部署及训练》,相当于是在本地化已经部署了DeepSeek,感兴趣的小伙伴可以移步去看。但是Ollama没有图形化界面,我找了一个开源项目MaxKB,是一款基于大语言模型和 RAG 的开源知识库问答系统。今天主要是记录下如何Windows系统下本地化安装部署MaxKB并配置知识库。

一、开启系统虚拟化支持

Win10/11更新到最近的版本,并且开启系统虚拟化支持,这块网上教程很多,如果没有开启,请移步搜索引擎查找相关教程。我这边就简单介绍下方法:按Ctrl+Shift+ESC打开任务管理器,切换到性能tab,然后点击CPU,可以查看到虚拟化的启用情况,如下图。

如果没有启动,需要以管理员权限打开CMD命令提示符窗口,然后输入:

dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /al1

执行完后需要重启电脑。

二、安装Docker

MaxKB在Windows下,官方只给出了docker的部署方式,所以我们需要安装Docker。

下载网址https://desktop.docker.com/win/stable/Docker%20Desktop%20Installer.exe

下载完成后双击点开安装程序,打开的页面有两个选项都是默认勾选,

直接点OK按钮就进入安装了。安装好以后,点击桌面的快捷方式,弹出协议界面,点击Accept按钮即可。

弹出的界面直接跳过,稍等一会儿即运行成功。

三、部署MaxKB

以管理员身份运行CMD命令提示符界面,然后在MaxKB在线文档页面中找到如下命令

docker run -d --name=maxkb --restart=always -p 8080:8080 -v C:/maxkb:/var/lib/postgresql/data -v C:/python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb

下载安装完成后,切回到Docker界面,点击左侧菜单Images,可以看到maxkb的镜像包,在左侧菜单Containers中,可以看到已经部署好的maxkb。

点击【Port(s)】下的链接即可访问系统。默认登录信息 用户名:admin 默认密码:MaxKB@123..

登录后主界面如下,一般流程是创建知识库,再配置本地大模型,最后创建应用,就完成本地知识库的搭建了。

现在需要注意的是,还不能急于创建知识库,不然电脑重启,搭建的知识库就丢失了。解决办法是需要删除Docker中自动部署的maxkb容器,重新创建。操作如下:

PGDATA后面的值就是数据保存路径。

弹出的选项框填写如下:

然后就等重新创建的容器启动成功即可访问maxkb页面了。

四、搭建知识库

基于上面的步骤,我们就成功部署了MaxKB,下面我们就要开始创建本地知识库,这部分相对就比较简单了,可以参考MaxKB官网文档(https://maxkb.cn/docs/quick_start/)进行查看。

点击页面上的知识库tab,点击创建知识库,会有弹窗填写创建信息。

这里可以选择通用型和web站点两种知识库类型,我们选择通用型测试,然后点击创建即可。再跳转的页面中,点击上传文档,就可以上传我们准备好的知识库文档了。

上传完文档后,点击下一步就完成了文档的上传,后续就等执行完毕即可,这些是系统后台运行,不影响我们其他操作。

目前支持的文档类型如下:

创建好知识库后,我们要配置大语言模型,具体步骤如下图所示。

配置好大语言模型后,我们就可以创建应用了,根据提示填写信息即可。

最终的效果就是,提问会根据知识库的内容进行回答

希望我的这篇文章,能够帮助小伙伴们搭建本地化的知识库,MaxKB是一个开源工具,也可以用别的替代它的功能,现在市面上的几个开源的都差不多,选择一个自己喜欢的就好。

后面我也会写一个dify的安装部署教程,希望喜欢的小伙伴们能够帮我点点赞,关注一下!

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐