史上最强基于大语言模型的本地化知识库-MaxKB部署实践完全指南
时间:2024-12-4 11:40 作者:Anglei 分类: 大数据AI
大家好,不知道大家还记得大名鼎鼎的jumpserver吗?市面上开源为数不多的堡垒机产品,由飞致云开发的,本次我要隆重介绍这款知识库大模型产品(MaxKB)也是飞致云开发的社区开源产品,可以免费建立50个知识库和5个应用(专业版除外),还支持API接口以及第三方嵌入调用。
MaxKB = Max Knowledge Base,是一款基于大语言模型和 RAG 的开源知识库问答系统,广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。作为一款专注于知识库问答场景的软件产品,MaxKB 能够为企业的智能化进程注入新的动力,助力企业实现“提质增效”的目标。在知识库管理方面,MaxKB 帮助企业实现知识采集、知识入库、知识库构建的全流程自动化;在场景化智能搜索方面,MaxKB 能够解析用户输入的问题并匹配检索知识库;在回复准确性方面,MaxKB 采用了成熟的 LLM + RAG 技术,能够最大限度地降低大模型幻觉对知识搜索准确性的干扰,提高企业对业务数据的分类与召回能力;安全性方面,MaxKB 支持本地部署和调用本地大模型,有效管控企业使用知识库时越级访问的风险,以及公有模型在数据传输方面可能存在的安全隐患。借助 MaxKB,企业用户可以快速上线业务 AI 助手,将生成式 AI 能力应用于业务数据管理、内部资料查询、线上客户服务等领域,优化业务服务流程并切实提升用户体验。
为了快速部署,我们本次采用docker部署,其他部署方式参考官网,官方连接见本文末尾。
1 部署要求
操作系统:Ubuntu 22.04 / CentOS 7.6 64 位系统
CPU/内存:4C/8GB 以上
磁盘空间:100GB
2 在线快速部署
MaxKB 支持一键启动,仅需执行以下命令:
# Linux 操作系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
待所有容器状态显示为healthy后,可通过浏览器访问 MaxKB:
http://目标服务器 IP 地址:8080
默认登录信息
用户名:admin
默认密码:MaxKB@123..
3 在线升级
根据以下步骤依次执行进行升级:
3.1 下载最新镜像
docker pull cr2.fit2cloud.com/1panel/maxkb
3.2 查看并确认上一次数据持久化目录,复制保存,第(4)步使用
docker inspect maxkb
3.3 删除正在运行的、旧版本的 MaxKB 容器
docker rm -f maxkb
3.4 启动并运行新版本的 MaxKB 容器
注意: 务必确认数据持久化目录(即命令行中 -v后的目录)要跟第 (2) 步查看目录保持一致,否则启动后整个系统数据为空。
docker run -d --name=maxkb -p 8080:8080 -v /opt/maxkb/pgsql/data:/var/lib/postgresql/data -v /opt/maxkb/python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
4 DOCKER部署成功
5 知识库大模型部署
安装完后,在浏览器输入网址:http://192.168.1.110:8080
5.1 添加公共大模型
本文添加的是百度千帆大模型:ERNIE-Speed-128K,经测试ERNIE-Lite-8K-0308也是支持的,其它请自行测试。
5.2创建知识库
有两种方式建立知识库:1.是通过手动上传;2.是通过WEB建立。本文选择的是通过WEB网站建立知识库,这样可以节省上传时间,程序会自动爬取网站的内容:
5.4 大模型验证
通过独立的地址进去后,我们进行提问,可以看到红色箭头和蓝色箭头部分,是对内置的知识库进行分析,如果没有匹配的内容,将通过公共大模型进行回复:
参考文档:MaxKB 官方文档

本文完结,相关标签: 知识库 AI 大模型 MaxKB 语言
推荐阅读:
![]() 路过(0) |
![]() 雷人(0) |
![]() 握手(4) |
![]() 鲜花(0) |
![]() 鸡蛋(1) |