如何部署最近爆火的DeepSeek R1大模型并且公网访问呢?
我们的部署平台选在了雨云 ,这里的显卡云非常的便宜,极力推荐!
1. 安装1Panel
本次我们主要通过1Panel
安装相应的程序。
首先,通过SSH连接到你的服务器:
ssh root@your_server_ip
然后执行以下命令以安装1Panel以及Docker容器:
wget https://resource.fit2cloud.com/1panel/package/quick_start.sh
bash quick_start.sh
等待一会,会要求你输入账户等基本信息。
2. 安装Ollama
按照基本信息登陆后,我们在应用商店中找到以下程序并安装:
安装好后是这样子的:
我们回到SSH,输入docker ps
:
在里面找到以1Panel-Ollama-
打头的容器,记下名字,比如我的就是1Panel-ollama-2dTv
。
接下去,请选择你需要的模型版本,可以参考这篇CSDN文章的讲解,根据自己的主机情况选择合适的模型。
比如部署1.5b的小版本,那么就在SSH里输入:
docker exec 1Panel-ollama-xxxx ollama pull deepseek-r1:1.5b
只有7b
版本不需要输入后面的:xxx b
,其余模型请自行替换成对应的型号。
由于是海外的源,所以会有一点慢,等待即可。
接下去进入1Panel的“AI”界面,先“同步”一次,然后点击你的模型后面的“运行”,确保你能正常对话:
3. 安装OI
在SSh执行以下命令:
docker pull ghcr.io/open-webui/open-webui:main
docker run -d -p your_port:8080 -e OLLAMA_BASE_URL=your_ollama_base_url -v open-webui:/app/backend/data --name my-open-webui --restart always ghcr.io/open-webui/open-webui:main
这里,将your_port替换为你的无占用端口,your_ollama_base_url可以在1Panel应用商店的“已安装”栏目找到Ollama查看。
等待完成后,打开你的网址,首次会出现一个大大的OI,这是在加载样式和脚本,耐心等待。
最后,创建账号即可使用了!
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容