近期,DeepSeek-R1凭借其卓越性能迅速走红。它不仅具备与OpenAI模型相媲美的强大能力,还支持本地及私有化部署。用户可以实现离线使用、定制优化,同时确保数据仅存储于本地,不会上传第三方云端服务器或对外公开。
接下来,我们将带大家快速本地私有化部署DeepSeek-R1模型,并实现远程访问、远程调用。整个过程无需复杂操作,也无需依赖云服务器,就能轻松打造专属AI助手或资料库。
我们只需通过Ollama快速部署DeepSeek-R1,并借助贝锐花生壳内网穿透或贝锐蒲公英异地组网实现远程访问。最终,使用浏览器的Page Assist Web UI插件,我们就可以随时随地远程调用本地私有化部署的DeepSeek-R1模型。
一、利用Ollama本地私有化部署DeepSeek-R1
首先,进入Ollama官网,下载系统对应的客户端,根据引导一键安装即可。
随后,打开命令提示符,参考命令“ollama run deepseek-r1:1.5b”一键下载、安装DeepSeek-R1模型。
目前可选1.5B、7B、8B、14B、32B、70B、671B参数大小的模型,参数越大性能越强,但是对于显卡和显存的要求也越高,通常4GB显存可选1.5B模型、8G可选7B、16G可选14B。
如需更换模型保存位置,可在开始菜单搜索“环境变量”,在“系统变量” 或“用户变量” 中点击“新建”,变量名填入“OLLAMA_DATA_DIR”,变量值填入需要保存的位置。
之后,开启Ollama局域网访问。同样在开始菜单搜索“环境变量”,在“系统变量” 或“用户变量” 中点击“新建”,变量名填入“OLLAMA_HOST”,变量值填入“0.0.0.0”,并重启Ollama。
二、实现本地私有化部署的DeepSeek-R1模型远程访问
本地私有化部署DeepSeek-R1后,如需实现远程访问,可以使用以下两种方式,任选其一即可,操作方式都非常简便。
如需多人共享或公开访问,可使用贝锐花生壳内网穿透,无需公网IP就能生成固定域名形式的远程访问地址。
个人远程访问或公司、团队内部使用,也可使用贝锐蒲公英异地组网,贝锐蒲公英相当于将多台异地设备组建成虚拟局域网,从而实现互联互通,同样无需公网IP、无需复杂配置,就能实现远程访问。
方式1:贝锐花生壳内网穿透搭配Page Assist Web UI插件实现远程访问
搭配贝锐花生壳内网穿透远程访问,只需下载系统对应的花生壳客户端,注册贝锐账号并登录。
然后,进入花生壳云管理平台,填写运行Ollama主机的局域网IP及默认端口号“11434”,即可一键生成固定的远程访问地址。
之后,如果需要远程访问本地私有化部署的DeepSeek-R1模型,Chrome或是Firefox浏览器添加Page Assist Web UI拓展程序。
进入Page Assist Web UI的Ollama设置,Ollama URL中填写贝锐花生壳生成的固定远程访问地址并保存。
最后,在RAG设置中选择部署好的DeepSeek-R1模型并保存,即可随时实现远程访问和调用。
方式2:贝锐蒲公英异地组网搭配Page Assist Web UI插件实现远程访问
搭配贝锐蒲公英异地组网远程访问,需要在运行Ollama的主机中下载、安装蒲公英客户端,注册贝锐账号并登录。
如需远程访问,同样需要在设备中下载、安装蒲公英客户端,并用同一个贝锐账号登录,彼此之间就可以自动组网。
此外,也可登录贝锐蒲公英的云端管理平台,根据提示添加、创建组网成员,通过组网成员的UID和预设密码,登录贝锐蒲公英客户端实现组网,详细教程或是搭配蒲公英组网硬件可搜索贝锐蒲公英官网查看。
之后,Chrome或是Firefox浏览器同样添加Page Assist Web UI拓展程序,并进入Page Assist Web UI的Ollama设置,Ollama URL中填写Ollama主机的蒲公英虚拟IP以及Ollama默认端口号“11434”。
最后,在RAG设置选择部署好的DeepSeek-R1模型并保存,即可随时实现远程访问和调用。
总体来说,通过上述步骤,我们不仅成功实现了DeepSeek-R1模型的本地私有化部署,还借助贝锐花生壳内网穿透和贝锐蒲公英异地组网,轻松解锁了远程访问。整个过程简单高效,无需复杂操作,也无需依赖云服务器,即可打造专属的AI助手或资料库。
「免责声明」:以上页面展示信息由第三方发布,目的在于传播更多信息,与本网站立场无关。我们不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担,以上网页呈现的图片均为自发上传,如发生图片侵权行为与我们无关,如有请直接微信联系g1002718958。
![](https://csdnimg.cn/release/cmsfe/public/img/code-Icon.9ffdd99c.jpg)