【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

🎼个人主页:【Y小夜】

😎作者简介:一位双非学校的大三学生,编程爱好者,

专注于基础和实战分享,欢迎私信咨询!

🎆入门专栏:🎇【MySQLJavawebRustpython

🎈热门专栏:🎊【SpringbootRedisSpringsecurityDockerAI】 

感谢您的点赞、关注、评论、收藏、是对我最大的认可和支持!❤️

目录

🎈本地部署模型

🎉安装Ollama

🎉安装 Open WebUI

🎊安装Docker

🥞启动 Hyper-v

🥞 安装 WSL(适用于Linux的Windows的子系统):

🥞安装Docker

 🎊Docker 部署 Open WebUI


🎈本地部署模型

🎉安装Ollama

官网:​Ollama

然后进行一下下载

安装完成之后是没有提示的,然后我们需要去测试一下。(这里我是以QWen为例子,大家可以尝试其他的模型)

打开一个终端,然后输入一个命令,进行测试

ollama run qwen 

 现在是正在进行下载,默认是保存在(C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置OLLAMA_MODELS进行修改,然后重启终端,重启 ollama 服务。或者在环境变量中修改OLLAMA_MODELS的位置

setx OLLAMA_MODELS "D:" 

下载完成后,可以进行测试:

查看都安装了什么模型

ollma list命令显示所有安装模型 ollama rm 模型名称 删除指定模型

但这个现在就只可以在终端中使用 ,那么我问现在就搞一个web页面进行交互,增加体验。

🎉安装 Open WebUI

🎊安装Docker

如果你本地已经有了Docker了,那就可以直接看下面的内容。

🥞启动 Hyper-v

但是如果你这里没有Hyper-V,那么恭喜你,博主也没有,博主已经踩过这个坑了。

我们首先在桌面上建立一个文件,命名为Hyper.cmd,然后填入内容

pushd "%~dp0" dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i" del hyper-v.txt Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL

然后使用管理员身份运行这个文件,运行完毕后,重启电脑,再打开,就可以找到Hyper-V了。

🥞 安装 WSL(适用于Linux的Windows的子系统):
wsl --update 

然后进行安装

wsl --install 

 

🥞安装Docker

官网: Windows | Docker Docs

然后进行下载:

然后双击进行安装

这里咱们先不注册,直接进行登录即可

左下角是绿色,就代表运行成功了

 🎊Docker 部署 Open WebUI

打开命令行,然后输入docker

展示内容,说明我们的docker安装成功了

然后开始用docker安装open webUI

然后,安装完成够就可以,打开Docker Desktop,访问http://localhost:3000端口了

然后点击登录网址,

就是你会发现,点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,但是,你可能会出现一个错误,就是找不到你自己安装的模型,这个原因是因为你的ollama没有启动,我们启动一下ollama

然后再重新,加载一下网页,再选择一下模型

提问一下问题,模型进行回答。这样我们本地的模型就部署好了

Read more

企业级web药店管理系统管理系统源码|SpringBoot+Vue+MyBatis架构+MySQL数据库【完整版】

企业级web药店管理系统管理系统源码|SpringBoot+Vue+MyBatis架构+MySQL数据库【完整版】

摘要 随着医药行业的快速发展,传统药店管理模式在效率、数据整合及用户体验方面逐渐显现出不足。人工管理药品库存、销售记录和客户信息不仅耗时耗力,还容易出现人为错误,影响药店运营效率和服务质量。信息化管理系统的引入成为解决这一问题的有效途径,能够实现药品信息的精准管理、销售数据的实时分析以及客户服务的智能化。基于此,开发一套高效、稳定且易用的企业级Web药店管理系统具有重要的现实意义。该系统能够帮助药店实现数字化转型,提升管理效率,降低运营成本,同时为顾客提供更便捷的购药体验。关键词:药店管理系统、数字化转型、药品库存管理、销售数据分析、客户服务。 本系统采用SpringBoot作为后端框架,结合Vue.js前端框架和MyBatis持久层框架,构建了一个高性能、易扩展的全栈Web应用。数据库选用MySQL,确保数据存储的稳定性和高效查询能力。系统主要功能包括药品信息管理、库存预警、销售记录统计、会员管理以及多角色权限控制。管理员可通过可视化界面实时监控药品库存状态,自动生成销售报表,优化采购决策;店员能够快速完成药品销售与退换货操作;顾客则可通过会员系统享受个性化服务。系统采用REST

前端部署指南:手把手教你部署 Vue 项目

前端部署指南:手把手教你部署 Vue 项目

🌈个人主页:前端青山 🔥系列专栏:Vue篇 🔖人终将被年少不可得之物困其一生 依旧青山,本期给大家带来Vue篇专栏内容:Vue-部署项目 前言 嗨喽伙伴们大家好,我是依旧青山。作为一名前端开发工程师,我深知很多刚入门的小白和已经有一定经验的前端开发者在部署项目时可能会遇到各种问题。虽然我们还没有开始学习后端相关的知识,但大家都希望能将自己的 Vue 项目部署到服务器上,展示给更多人看。今天,我将为大家详细介绍如何从零开始部署一个 Vue 项目,让每个人都能轻松上手。 本文将涵盖以下几个方面: 1. 准备工作 2. 服务器重装系统 3. 连接服务器 4. 安装|配置 Nginx 5. 服务器安装node环境 6. 打包|部署vue项目 7. 常见问题及解决方法 目录 前言 1.准备工作 2.服务器重装系统 3.连接服务器 4.

Java Web 拦截机制实战指南:Filter 与 Interceptor 深度解析

一、理解核心概念 在 Java Web 开发中,过滤器(Filter)和拦截器(Interceptor)是两种核心的请求处理机制。它们虽然都能对请求进行拦截和处理,但定位截然不同: * Filter 是 Servlet 容器的"守门人",位于应用最外层 * Interceptor 是 Spring MVC 的"执法官",位于框架内部 二、Filter:Servlet 容器的第一道防线 2.1 本质与特点 Filter 是 Java Servlet 规范 定义的组件,由 Servlet 容器(如 Tomcat)直接管理,不依赖任何框架,

MediaPipe Pose部署案例:人体姿态估计WebUI可视化完整指南

MediaPipe Pose部署案例:人体姿态估计WebUI可视化完整指南 1. 引言 1.1 AI 人体骨骼关键点检测的现实需求 在智能健身、动作捕捉、虚拟试衣和人机交互等前沿应用中,人体姿态估计(Human Pose Estimation)已成为一项核心技术。通过识别图像中人体关键关节的位置(如肩、肘、膝等),系统可以理解用户的动作状态并做出响应。 传统方案依赖深度相机或多传感器融合,成本高且部署复杂。而基于单张RGB图像的2D/3D关键点检测技术,尤其是Google推出的MediaPipe Pose模型,以其轻量、高效、高精度的特点,迅速成为边缘设备和本地化部署的首选方案。 1.2 项目定位与核心价值 本文介绍一个开箱即用的MediaPipe Pose部署案例,集成WebUI界面,支持上传图片进行骨骼关键点检测与可视化输出。该方案具备以下显著优势: * 无需GPU:纯CPU推理,兼容低配机器 * 零依赖外部服务:不调用ModelScope或任何在线API,数据完全本地处理 * 33个3D关键点精准定位:覆盖面部、躯干、四肢主要关节点