DeepSeek-R1 现在可谓是 AI 界的宠儿,随着越来越多的人使用 DeepSeek ,就经常会出现 DeepSeek 服务器繁忙的情况。但是选择在本地部署 DeepSeek 就能轻松解决这个问题。本文将详细的介绍如何在本地局域网内的 fnOS 飞牛云内安装部署 DeepSeek-R1 以及利用路由侠的内网穿透平台实现外网访问本地部署的 DeepSeek-R1 模型。
第一步,Ollama 安装部署
1,打开 fnOS 飞牛云,双击 Docker 应用。
2,如下图,在【镜像仓库】中搜索 ollama ,点击下载按钮。
3,选择默认的标签即可。
4,在【本地镜像】中可以看到正在下载中。
5,如果下载失败,就在【镜像仓库】中点击【仓库设置】。
6,点击【添加】后,填写仓库信息,名称随便写,URL 输入 https://docker.1ms.run 。填写完成后点击【应用】。
7,选择新添加的仓库后,点击【启用】。
8,ollama 镜像下载完毕后,在【本地镜像】中找到 ollama 容器,点击运行按钮。
9,勾选【开机自动开启容器】后,点击【下一步】。
10,在【存储位置】选项中,点击【添加路径】。
11,选中【我的文件】后,点击【新建文件夹】。
12,创建一个名为 docker 的文件夹。
13,创建好后,选中创建的【docker】文件夹后,点击【确定】。
14,如下图,在【存储位置】的装载路径中填写:/root/.ollama 。
15,在【环境变量】选项中,添加变量,变量名输入 OLLAMA_ORIGINS 值输入 * 。填写完成后,点击【下一步】。
16,确认信息后,点击创建 ollama 容器 。
17,创建好后,在【容器】列表中就可以看到创建好的 ollama 容器了。
第二步,本地部署 DeepSeek R1
1,点击 ollama 容器后边的更多按钮,打开终端。
2,如下图,点击【连接】。
3,连接成功后,就可以在终端中通过命令行来安装 deepseek-r1 模型了。
4,从 ollama 官网 查找 deepseek-r1 模型。点此进入
7,根据自己的需求选择想要下载的各种量级的模型,右侧是对应的模型下载命令。这里以 1.5b 进行演示。
8,输入下载命令,等待下载安装即可。
ollama run deepseek-r1:1.5b
9,当看到下图 success 提示,就代表已经成功在本地部署好了 deepseek-r1:1.5b 模型了,就可以和模型对话了。
第三步,Page Assist 浏览器插件安装与配置
在终端界面中聊天可能不是很美观,而且在复制回答时也不太方便,所以我们来安装一个 Web UI 界面来解决这个问题。
通过在电脑中安装 Page Assist 浏览器插件是目前相对简单的一个 Web UI 解决方案,可以在 Chrome 浏览器的应用商店中在线安装,也可以下载应用程序后离线安装。
Github 官网:https://github.com/n4ze3m/page-assist
1,打开 Chrome 浏览器,进入应用商店。如果打不开请看第 6 段。
2,在顶部搜索框中搜索 Page Assist,看到 Page Assist 插件后,点击进入。
3,点击【添加至 Chrome】。
4,在弹出的提示框中点击【添加扩展程序】。
5,添加后在浏览器右上角的扩展程序图标中打开它即可看到 Web UI 界面了。
6,如果访问不了 chrome 应用商店添加插件,点此下载,把下载好插件文件后,在 chrome 浏览器中输入:chrome://extensions/ 进入扩展程序安装界面。将插件文件拖入这个界面,点击安装扩展程序即可。注意,如果拖不进去的话,就把开发者模式打开,并刷新网页再拖进去就可以了。
7,打开 Web UI 界面,可以看到中间的【Ollama is running】提示,说明已经正常运行。
8,点击右上角的设置图标按钮,在【General Settings】中修改语言为简体中文。
9,回到主界面,点击【选择一个模型】可以看到刚才本地部署的 deepseek-r1:1.5b 。
10,选择模型后,就可以和 deepseek 大模型对话了。
11,还可以点击下方搜索互联网开关。
第四步,Docker 安装路由侠
1,把飞牛云 NAS 设置界面打开,在设置里开启 ssh 连接,端口默认为 22 ,如下图,开启后,我们就可以 ssh 连接飞牛云 NAS 执行命令。
2,我们可以通过 Putty 或者 windows 自带的 ssh 用飞牛的 ip 和账号远程连接进去,两者都可以。
3,连接好后,开始在 docker 里安装路由侠,当前未提供网页管理,需要先在任意一台 Windows 机器安装路由侠 Windows 版本,用作跨机器管理。
4,在 Windows 机器上的路由侠客户端主界面,进入“设备中心”,点击右下角的“添加设备”,此时可查看到对应的安装码,此安装码用于将设备添加到对应账号下,可选中后复制。
5,可使用以下命令拉取镜像:
wget https://dl.luyouxia.com:8443/v2/lyx-docker-x86_64.tar docker load -i lyx-docker-x86_64.tar
6,然后使用该镜像启动容器
docker run --name lyx -it --restart=always --net=host -e code=这里填写安装码 luyouxia/lyx
7,此时,需要等待下载和安装的过程,如果一切正常,最终可以看到一些输出,并且可以看到如下提示:
[Device] Logged in. Token: ....
这就表示安装成功了。
当前 Linux 终端这边,如果是使用的上面的命令,Docker 是运行在前台,此时可以按住 Ctrl+C ,退出路由侠,容器也将退出。现在可以使用以下命令将其放入后台持续运行:
docker start lyx
注意如果容器删除,重新 docker run, 将创建为新的设备。
需要注意的是,因为容器参数已经添加了 --restart=always,这样开机就会自动启动,不需要再手动启动路由侠了。
8,现在回到 Windows 这边设备列表,点击右上角的×返回主界面,再次进入,就可以找到这个设备,可以修改名称。
可以把设备名称修改成容易辨认的,修改好后,点击【保存】。
9,回到主界面,点击【内网映射】。
10,注意右上角的设备名称下拉框,这里选中刚刚添加的设备名称,此时在这个界面上添加的映射,就属于刚刚这个设备。添加或修改一般需要等待30秒,容器中的路由侠进程就会更新并加载。切换好设备后,点击【添加映射】。
11,选择【网站应用】。
12,在内网端口里填写默认端口 11434 后点击【创建】按钮,如下图。
第五步,添加策略访问实现外网访问 DeepSeek-R1
鉴于目前 DeepSeek 等大模型的研究部署和应用非常广泛,多数用户使用 Ollama 私有化部署如果没有开启验证保护是非常危险的,存在漏洞风险。所以必须实行验证保护,这里路由侠采取的访问策略验证是为了保护用户的数据和服务器不受攻击,这一步很重要,一定要加上。
1,在路由侠主界面鼠标点击右侧选择【访问策略】。
2,点击【添加策略】。
3,把策略名称填好后,往下滚动,如下图,把【运行模式】改成强制开启后,点击【成员管理】。
4,点击添加成员图标按钮。
5,把成员的名称和密码设置一下,点击【添加】。
6,添加好后,点击【返回】。
7,都设置好后,点击【添加】。
8,可以看到新添加的策略。
9,找到前面添加的映射,鼠标右键选择【限制】。
10,选择前面新添加的策略后,点击【确定】。
11,选中映射,鼠标右键点击【复制地址】。
12,在浏览器的地址栏输入复制的外网地址,可以看到访问验证,把前面设置成员的账号密码输入进去,点击【验证】。
13,可以看到 Ollama 正在运行。
14,回到 Web UI 界面,点击右上角的设置图标按钮,在【Ollama 设置】中配置 Ollama , 如下图,把从路由侠生成的公网地址复制粘贴到 Ollama URL 里后,点击【保存】。
15,设置好后,返回 Web UI 主界面,可以看到中间的【Ollama is running】提示,说明已经正常运行。
16,就能够远程访问你在本地部署的 deepseek 大模型并与其聊天了。
以上就是在本地局域网内的 fnOS 飞牛云里安装部署 DeepSeek-R1 以及利用路由侠内网穿透实现外网访问的全部教程了,如果想要对路由侠有更多的了解,可以进官网详细了解,路由侠官网地址:www.luyouxia.com