宝塔和docker在本地服务器部署一个AI网站 DeepSeeK Ai数据模型 教程
==================================================================
1.安装宝塔
if [ -f /usr/bin/curl ];then curl -sSO https://download.bt.cn/install/install_panel.sh;else wget -O install_panel.sh https://download.bt.cn/install/install_panel.sh;fi;bash install_panel.sh ed8484bec
安装 Docker
安装 Docker管理
Docker中应用商店AI/大模型 安装Ollama
在宝塔面板-Docker-容器界面中找到Ollama容器,点击终端。
在弹出shell类型选择bash,点击确认。
在终端界面中输入ollama run deepseek-r1:1.5b,回车运行DeepSeek-R1模型。
DeepSeek-R1模型有多个版本,可以根据需要选择不同版本,例如ollama run deepseek-r1:671b,详情如下(模型参数越大,需要配置越高):
# DeepSeek-R1
ollama run deepseek-r1:671b
# DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
# DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
# DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
# DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
# DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
# DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b
等待下载并运行,当看到如下提示表示DeepSeek-R1模型运行成功。
你可以在界面中输入文本并回车,开启与DeepSeek-R1模型的对话。
你可以在界面中输入/bye并回车,退出DeepSeek-R1模型。在终端内对话看起来是不是有点麻瓜?
别担心,接下来让我们来安装OpenWebUI,在浏览器中更直观地与DeepSeek-R1模型对话
在宝塔面板-Docker-容器界面中找到Ollama容器,点击Ollama右侧的管理,进入容器管理界面,获取容器IP,保存备用。
172.18.0.2
在宝塔面板Docker-应用商店-AI/大模型分类中找到OpenWebUI,点击安装。
访问ip:3000