一、前言
在 AI 大模型百花齐放的时代，很多人都对新兴技术充满了热情，渴望尝试。然而，实际上要入门 AI 技术的门槛非常高。除了需要高端设备外，还需要面对复杂的部署和安装过程，这让许多人望而却步。在这样的背景下，Ollama 的出现为广大开发者和爱好者提供了一条便捷的道路，极大地降低了应用机器学习的门槛。
Ollama 的优势在于其极致的简化。通过这个平台，用户可以轻松下载、运行和管理各种机器学习模型，而无需深入理解相关的技术细节。这种易用性特别适合初学者，使他们能够在短时间内启动自己的项目，进行模型实验和应用开发。在 Ollama 的帮助下，用户再也不需要耗费时间在复杂的环境设置上，因为 Ollama 的 Modelfile 文件简化了模型的配置和管理。该文件定义和配置模型的元数据、运行时参数以及所需的依赖项，确保用户可以专注于如何利用模型解决实际问题。
二、术语
2.1 Ollama
是一个强大的框架，用于在 Docker 容器中部署 LLM（大型语言模型）。它的主要功能是在 Docker 容器内部署和管理 LLM 的促进者，使该过程变得简单。它可以帮助用户快速在本地运行大模型，通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型。
Ollama 支持 GPU/CPU 混合模式运行，允许用户根据自己的硬件条件（如 GPU、显存、CPU 和内存）选择不同量化
