宝塔和docker在本地服务器部署一个AI网站 DeepSeeK Ai数据模型 教程

==================================================================
1.安装宝塔
if [ -f /usr/bin/curl ];then curl -sSO https://download.bt.cn/install/install_panel.sh;else wget -O install_panel.sh https://download.bt.cn/install/install_panel.sh;fi;bash install_panel.sh ed8484bec
安装 Docker
安装 Docker管理

Docker中应用商店AI/大模型 安装Ollama

在宝塔面板-Docker-容器界面中找到Ollama容器,点击终端。
在弹出shell类型选择bash,点击确认。
在终端界面中输入ollama run deepseek-r1:1.5b,回车运行DeepSeek-R1模型。
DeepSeek-R1模型有多个版本,可以根据需要选择不同版本,例如ollama run deepseek-r1:671b,详情如下(模型参数越大,需要配置越高):

# DeepSeek-R1
ollama run deepseek-r1:671b
# DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
# DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
# DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
# DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
# DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
# DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b
等待下载并运行,当看到如下提示表示DeepSeek-R1模型运行成功。

你可以在界面中输入文本并回车,开启与DeepSeek-R1模型的对话。

 

你可以在界面中输入/bye并回车,退出DeepSeek-R1模型。在终端内对话看起来是不是有点麻瓜?
别担心,接下来让我们来安装OpenWebUI,在浏览器中更直观地与DeepSeek-R1模型对话

在宝塔面板-Docker-容器界面中找到Ollama容器,点击Ollama右侧的管理,进入容器管理界面,获取容器IP,保存备用。
172.18.0.2
在宝塔面板Docker-应用商店-AI/大模型分类中找到OpenWebUI,点击安装。

访问ip:3000

所有源码是站长亲测过的 每个亲测源码都带有视频教程和测试视频 5块钱开通永久会员 下载本站所有资源
阿乐源码网 » 宝塔和docker在本地服务器部署一个AI网站 DeepSeeK Ai数据模型 教程

发表回复