简介
Text Generation Web UI(由 oobabooga 开发)是一个功能强大的 Gradio Web 界面,专门用于在本地运行大型语言模型。它提供了简单易用的界面和丰富的功能,让用户能够在自己的硬件上轻松运行各种 AI 模型,完全离线且保护隐私。
🔗 GitHub 地址:
Text Generation Web UI 是一款基于 Gradio 的本地大语言模型 Web 界面工具。它支持完全离线运行,保护用户隐私,并提供多模型格式兼容(如 GGUF、Transformers)。文章介绍了其核心功能体系,包括模型管理、对话交互、文件处理及视觉能力;详细说明了环境准备与多种安装方式(便携版、手动、Docker、Conda);提供了配置参数示例及基本工作流指南。此外,还列举了个人助手、企业知识问答等应用场景,适合需要本地化 AI 解决方案的个人、企业及研究人员使用。
Text Generation Web UI(由 oobabooga 开发)是一个功能强大的 Gradio Web 界面,专门用于在本地运行大型语言模型。它提供了简单易用的界面和丰富的功能,让用户能够在自己的硬件上轻松运行各种 AI 模型,完全离线且保护隐私。
🔗 GitHub 地址:
项目背景:
技术亮点:
Text Generation Web UI 提供了一套完整的本地 AI 运行解决方案,涵盖模型管理、对话交互、文件处理、视觉能力、网络功能、扩展系统、API 接口、用户体验等多个方面。
模型管理功能:
对话交互功能:
文件处理功能:
视觉能力功能:
网络功能功能:
扩展系统功能:
API 接口功能:
用户体验功能:
系统要求:
便携版安装(推荐):
# 从 Release 页面下载对应版本
# 解压文件
# Windows: 双击 start_windows.bat
# Linux: chmod +x start_linux.sh && ./start_linux.sh
# macOS: chmod +x start_macos.sh && ./start_macos.sh
手动安装:
# 克隆仓库
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
# 创建虚拟环境
python -m venv venv
# 激活环境
# Windows: venv\Scripts\activate
# Linux/macOS: source venv/bin/activate
# 安装依赖
pip install -r requirements.txt
# 启动服务
python server.py
Docker 安装:
# 链接 Docker 文件
ln -s docker/nvidia/Dockerfile .
ln -s docker/nvidia/docker-compose.yml .
ln -s docker/.dockerignore .
# 复制环境配置
cp docker/.env.example .env
# 创建日志目录
mkdir -p user_data/logs user_data/cache
# 启动容器
docker compose up --build
Conda 安装:
# 安装 Miniforge
curl -sL "https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-Linux-x86_64.sh" > "Miniforge3.sh"
bash Miniforge3.sh
# 创建环境
conda create -n textgen python=3.11
conda activate textgen
# 安装 PyTorch (根据 GPU 选择)
pip3 install torch==2.7.1 --index-url https://download.pytorch.org/whl/cu128
# 安装 Web UI
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
pip install -r requirements.txt
基本配置:
python server.py \
--listen \
--api \
--model-menu \
--auto-launch \
--verbose
模型配置:
--model "模型名称" \
--loader "llama.cpp" \
--gpu-layers 20 \
--ctx-size 4096 \
--threads 8 \
--batch-size 512
网络配置:
--listen \
--listen-port 7860 \
--listen-host "0.0.0.0" \
--share \
--gradio-auth "user:pass"
API 配置:
--api \
--api-port 5000 \
--api-key "your-api-key" \
--public-api \
--nowebui
性能配置:
--cpu \
--cpu-memory 16 \
--disk \
--load-in-8bit \
--bf16 \
--flash-attn
使用 Text Generation Web UI 的基本流程包括:环境准备 → 安装部署 → 模型下载 → 服务启动 → 界面访问 → 模型加载 → 开始使用 → 功能探索。
界面使用:
高级功能使用:
API 使用:
生产部署使用:
开发定制使用:
研究教育使用:
场景:本地个人 AI 助手 解决方案:使用 Text Generation Web UI 部署个人 AI。 实施方法:硬件准备 → 软件安装 → 模型选择 → 部署配置 → 日常使用 价值:隐私保护、个性化定制、离线使用、成本节约、学习平台
场景:企业内部知识管理 解决方案:使用 Web UI 构建企业知识系统。 实施方法:文档整理 → 系统部署 → 模型训练 → 员工培训 → 维护更新 价值:知识管理、提高效率、成本控制、数据安全、竞争优势
场景:AI 教育实验平台 解决方案:使用 Web UI 作为教学工具。 实施方法:实验室建设 → 平台部署 → 课程设计 → 学生使用 → 效果评估 价值:实践教学、提高兴趣、丰富资源、研究平台、技能培养
场景:AI 研究开发环境 解决方案:使用 Web UI 作为研究平台。 实施方法:环境搭建 → 工具配置 → 实验进行 → 数据分析 → 成果产出 价值:完整环境、工具支持、数据安全、效率提升、成果质量
场景:本地内容创作助手 解决方案:使用 Web UI 辅助内容创作。 实施方法:需求分析 → 模型选择 → 工具使用 → 内容生成 → 质量优化 价值:创作灵感、提高质量、提升效率、控制成本、版权安全
Text Generation Web UI 作为一个功能强大的本地 AI Web 界面,通过其完全离线、隐私保护、多模型支持、易用界面和丰富功能,为本地 AI 应用提供了理想的解决方案。
核心优势:
适用场景:
快速开始:
# 下载便携版或使用一键安装脚本
# 访问 http://127.0.0.1:7860
资源链接:
无论您是个人用户、企业用户、教育工作者、研究人员还是内容创作者,Text Generation Web UI 都能为您提供强大、可靠且易用的本地 AI 解决方案。

微信公众号「极客日志」,在微信中扫描左侧二维码关注。展示文案:极客日志 zeeklog
使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online