使用Docker安装Ollama及Open-WebUI完整教程

优质文章学习记录

07 Apr 2026 — 5 min read

作者：吴业亮
博客：wuyeliang.blog.ZEEKLOG.net

一、Ollama 简介及工作原理

1. Ollama 简介及原理

简介：Ollama 是一款轻量级、开源的大语言模型（LLM）运行工具，旨在简化本地部署和运行大语言模型的流程。它支持 Llama 3、Mistral、Gemini 等主流开源模型，用户无需复杂配置即可在本地设备（CPU 或 GPU）上快速启动模型，适用于开发测试、本地智能应用搭建等场景。
工作原理：
- 采用模型封装机制，将大语言模型的运行环境、依赖库及推理逻辑打包为标准化格式，实现模型的一键下载、启动和版本管理。
- 通过优化的推理引擎适配硬件架构，支持 CPU 基础运行和 GPU 加速（如 NVIDIA CUDA），减少资源占用并提升响应速度。
- 提供简洁的 REST API 和命令行接口，降低开发者集成门槛，无需深入了解模型底层细节即可调用。
- 支持容器化部署，确保跨环境一致性，避免依赖冲突问题。

2. Open-WebUI 简介及原理

简介：Open-WebUI 是一款开源的可视化界面工具，专为 Ollama 设计，提供直观的交互界面用于管理和使用大语言模型。它支持模型切换、对话历史记录、参数调整等功能，让本地大语言模型的使用更便捷。
工作原理：
- 作为前端交互层，通过 API 与 Ollama 后端通信，接收用户输入并将其转发给 Ollama 进行模型推理。
- 解析 Ollama 返回的结果并以自然语言对话形式展示给用户，同时记录对话历史并支持上下文关联。
- 提供模型管理功能，可直接在界面中下载、启动、停止 Ollama 支持的模型，简化模型运维流程。
- 支持容器化部署，与 Ollama 容器通过网络互通，实现快速搭建完整的本地大语言模型交互系统。

二、安装Docker

1. 安装Docker依赖

apt-getinstall ca-certificates curl gnupg lsb-release

2. 添加阿里云Docker软件源

curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg |sudo apt-key add -

3. 配置系统软件源

编辑/etc/apt/sources.list文件，添加以下内容（清华大学Ubuntu镜像源）：

# 默认注释了源码镜像以提高 apt update 速度，如有需要可自行取消注释 deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-updates main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-updates main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-backports main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-backports main restricted universe multiverse # 安全更新软件源 deb http://security.ubuntu.com/ubuntu/ focal-security main restricted universe multiverse # deb-src http://security.ubuntu.com/ubuntu/ focal-security main restricted universe multiverse # 预发布软件源，不建议启用 # deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-proposed main restricted universe multiverse # # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ focal-proposed main restricted universe multiverse

4. 添加Docker软件源并更新密钥

add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys DDCAE044F796ECB0

5. 安装Docker

apt-getinstall docker-ce docker-ce-cli containerd.io

6. 验证Docker安装

docker -v

7. 配置Docker国内镜像源

7.1 编辑配置文件`/etc/docker/daemon.json`

{"registry-mirrors":["https://docker.mirrors.ustc.edu.cn","https://hub-mirror.c.163.com","https://docker.m.daocloud.io","https://ghcr.io","https://mirror.baidubce.com","https://docker.nju.edu.cn"]}

7.2 重新加载并重启Docker

systemctl daemon-reload systemctl restart docker

三、安装英伟达显卡驱动（GPU支持）

1. 配置存储库

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey |sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

2. 设置源

创建并编辑nvidia-container-toolkit.list文件：

# 内容如下 deb https://mirrors.ustc.edu.cn/libnvidia-container/stable/deb/$(ARCH) / deb https://mirrors.ustc.edu.cn/libnvidia-container/stable/ubuntu18.04/$(ARCH) / #deb https://mirrors.ustc.edu.cn/libnvidia-container/experimental/deb/$(ARCH) /#deb https://mirrors.ustc.edu.cn/libnvidia-container/experimental/ubuntu18.04/$(ARCH) /

3. 更新包列表

sudoapt-get update

4. 安装NVIDIA Container Toolkit

apt-getinstall -y nvidia-container-toolkit

5. 配置Docker以支持Nvidia驱动

nvidia-ctk runtime configure --runtime=docker

6. 重启Docker服务

systemctl restart docker.service

四、使用Docker安装Ollama

1. 拉取Ollama镜像

官方镜像：

docker pull ollama/ollama:latest

国内镜像（推荐）：

docker pull dhub.kubesre.xyz/ollama/ollama:latest

2. 启动Ollama容器

docker run -d \ --gpus=all \ --restart=always \ -v /root/project/docker/ollama:/root/project/.ollama \ -p 11434:11434 \ --name ollama \ ollama/ollama

说明：此配置会让Ollama将模型保持加载在内存（显存）中

五、使用Docker安装Open-WebUI

1. 安装Main版本

docker run -d \ -p 15027:8080 \ --gpus all \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.nju.edu.cn/open-webui/open-webui:main

2. 安装CUDA版本（GPU加速）

docker run -d \ -p 15027:8080 \ --gpus all \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.nju.edu.cn/open-webui/open-webui:cuda

3. 访问Open-WebUI

打开浏览器访问以下地址进行登录：

http://192.168.1.129:15027/auth

Web 聊天室消息加解密方案详解

目录编辑一、Web 聊天室消息加解密需求与技术约束 1.1 核心安全需求 1.2 技术约束二、主流消息加解密方案详解 2.1 方案 1：对称加密（AES-256-GCM） 2.1.1 方案概述 2.1.2 核心原理 2.1.3 实现步骤（分场景）场景 1：单聊加密场景 2：群聊加密 2.1.4 代码实现（前端 + 后端）前端（Vue3 + Web Crypto API）后端（

StructBERT WebUI定制开发：情感分析交互界面实战

StructBERT WebUI定制开发：情感分析交互界面实战 1. 背景与需求：中文情感分析的工程落地挑战在自然语言处理（NLP）的实际应用中，中文情感分析是企业级AI服务中最常见的需求之一。无论是电商平台的用户评论、社交媒体舆情监控，还是客服系统的自动响应，都需要快速准确地识别文本中的情绪倾向——正面或负面。然而，在真实项目中，我们常面临以下问题： - 预训练模型部署复杂，依赖冲突频发 - 缺乏直观的交互界面，难以供非技术人员使用 - GPU资源依赖高，CPU环境下推理效率低下 - API接口不标准，难与前端系统集成为解决这些问题，本文将带你深入一个基于 StructBERT 中文情感分类模型的轻量级服务化实践案例，重点讲解如何通过 WebUI + REST API 双模式设计，实现开箱即用的情感分析系统。 2. 技术选型与架构设计 2.1 为什么选择 StructBERT？ StructBERT 是阿里云 ModelScope

前端设计模式详解

前端设计模式全面解析一、设计模式概述 1.1 什么是设计模式设计模式是针对特定上下文的常见问题的可重用解决方案。在前端开发中，它们帮助我们构建可维护、可扩展、可重用的代码。 1.2 设计模式分类 * 创建型模式：处理对象创建机制 * 结构型模式：处理对象组合方式 * 行为型模式：处理对象间的通信和责任分配二、创建型模式 2.1 工厂模式（Factory Pattern）将对象创建逻辑封装起来。 // 简单工厂classButtonFactory{createButton(type){switch(type){case'primary':returnnewPrimaryButton();case'secondary':returnnewSecondaryButton();default:thrownewError('Unknown button type'

ESP32S3 CameraWebServer避坑指南：从代码烧录到网页访问的全流程解析

ESP32-S3 CameraWebServer 实战避坑：从零到一的图像流媒体搭建全解最近在折腾合宙的ESP32-S3核心板，想用它配合摄像头做个简单的网络监控或者视频流demo。网上随手一搜，乐鑫官方的CameraWebServer示例看起来是最直接的入门路径。但真动手的时候才发现，从环境配置、代码烧录到最终在网页上看到清晰的图像，中间每一步都可能藏着几个不大不小的“坑”。这篇文章就是把我自己踩过的坑、以及后来找到的解决方案，系统地梳理出来。如果你也是刚接触ESP32-S3，手头有一块合宙的板子和一个OV2640摄像头，想快速跑通这个经典的Web服务器示例，那么接下来的内容应该能帮你省下不少折腾的时间。我们的目标很明确：让ESP32-S3连接Wi-Fi，驱动OV2640摄像头采集图像，并建立一个可以通过浏览器访问的网页服务器，实时查看视频流或拍摄静态照片。整个过程涉及硬件连接、开发环境搭建、代码修改、固件烧录和网络调试多个环节，任何一个环节出错都可能导致最终失败。别担心，我们会逐一拆解。 1. 硬件准备与环境搭建：万事开头难在敲下第一行代码之前，正确的硬件连接和稳定