1. 显卡驱动安装
# 查看显卡型号
lspci | grep -i nvidia
# 查看推荐驱动
sudo ubuntu-drivers devices
# 安装推荐驱动
sudo apt install nvidia-driver-580
# 安装完成后重启服务器
sudo reboot
# 验证驱动是否安装成功
nvidia-smi
2. 安装 Docker
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo apt-get update
sudo apt-get install docker-ce
3. 安装 Ollama
# 下载自动安装脚本
wget https://ollama.com/install.sh
chmod +x install.sh
./install.sh
# 验证服务状态
sudo systemctl status ollama
# 查看版本
ollama --version
# 配置局域网访问
sudo vim /etc/systemd/system/ollama.service
在 [Service] 部分添加以下环境变量：
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
保存后重载并重启服务：
sudo systemctl daemon-reload
sudo systemctl restart ollama
4. 模型下载
ollama pull deepseek-r1:7b
ollama list
ollama deepseek-r1:7b
