MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。它借助大语言模型的力量,实现了从数据摄入、处理到智能问答的全链条优化,极大地提升了知识获取的效率与质量。本文将详细的介绍如何在本地 Windows 上安装部署 MaxKB 大模型以及利用路由侠内网穿透实现外网访问。
第一步,安装 Docker
Docker是一种虚拟化容器技术。Docker基于镜像,可以秒级启动各种容器。每一种容器都是一个完整的运行环境,容器之间互相隔离。
1,在 Windows 任务管理器中,检查系统是否开启虚拟化。打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认“虚拟化”已启用。
如果未开启虚拟化,则要开机重启并进入BIOS 进行设置:在 BIOS 选择:Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为:Enabled(启用)。
2,在 “控制面板” 打开 “程序”,然后点击 “启用或关闭 Windows 功能”,勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”。
3,以管理员身份打开命令行窗口,安装 wsl2 。
wsl --set-default-version 2 wsl --update --web-download
4,wsl 安装成功后如果没成效需要重启电脑。
5,从 Docker 官方下载 Docker 桌面应用程序。点此进入下载
6,下载好后,双击程序开始安装,依照提示完成安装即可。
7,安装好后桌面会出现 Docker Desktop 图标。
8,cmd 打开命令行窗口,输入 “docker version” 检查,显示 docker 的版本为 “27.4.0”,表明安装成功。
9,双击 Docker Desktop 打开,左下角显示是绿色的 running 就代表运行成功。
10,进入 docker,选择 Settings – Docker Engine,将镜像源替换如下:
{ "builder": { "gc": { "defaultKeepStorage": "20GB", "enabled": true } }, "experimental": false, "features": { "buildkit": true }, "registry-mirrors": [ "https://docker.m.daocloud.io", "https://docker.1panel.live", "https://registry.docker-cn.com", "https://cr.console.aliyun.com", "https://mirror.ccs.tencentyun.com" ] }
替换好后,点击 “Apply & restart”,重启并再次进入 docker,等待 Engine Starting 后就可以了。
11,重启 docker 之后,再次在 cmd 终端里执行命令 “docker run hello-world”,就可以成功拉取 hello-world 镜像并运行。
第二步, Docker 部署 MaxKB
1,在 cmd 终端里执行下面命令拉取 maxkb 镜像。
docker pull cr2.fit2cloud.com/1panel/maxkb
2,拉取成功后,执行下面命令启动运行容器。
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
3,在 Docker Desktop 中可以看到已经安装好的 Maxkb ,直接点击地址进入界面。
4,用默认的用户名和密码登录进去。
用户名:admin 默认密码:MaxKB@123..
第三步, MaxKB 的使用
1,如下图,在【系统设置】里面的【模型设置】去添加模型。
2,可以选择不同的 AI 模型。这里是以 Ollama 作为演示。
3,填写基本信息,如下图所示,API URL 是部署机器的 IP 加 Ollama 默认的端口 11434 。填写完成后点击【保存】即可。
4,可以看到已经添加好的模型 llama3 。
5,在【应用】界面里【创建应用】。填写一些简单的信息保存即可。
6,在【应用】的【概览】里可以看到已经创建好的应用信息,点击【演示】进入。
7,进入后就可以和 AI 模型对话了。
第四步, 外网访问本地部署的 MaxKB
在内网的电脑上安装路由侠,点此下载
1,下载安装完成后,打开路由侠界面,点击【内网映射】。
2,点击【添加映射】。
3,选择【原生端口】。
4,在内网端口里填写 MaxKB 的默认端口 8080 后点击【创建】按钮,如下图。
5,创建好后,就可以看到一条映射的公网地址,鼠标右键点击【复制地址】。
6,在外网的浏览器的地址栏输入复制的外网地址就可以访问本地部署的 MaxKB 界面了。
以上就是在本地局域网内部署 MaxKB 大模型以及利用路由侠内网穿透实现外网访问全部教程了,如果想要对路由侠有更多的了解,可以进官网详细了解,路由侠官网地址:www.luyouxia.com