LLM 大模型技术学习指南
本文面向对大模型领域感兴趣的程序员。
应用场景与人才需求
Prompt 工程：基于提示词对大模型的使用，会问问题就行。
基于大模型的应用：在大模型生态之上做业务层产品。AI 主播、AINPC、AI 小助手等。之前是会调 API 就行。现在有了 GPTs，连调用 API 都可以不用了，动动嘴就可以实现应用生成。
私有知识库：给大模型配个'资料袋'——大模型外挂向量数据库/知识图谱。
AI Agent：给大模型'大脑'装上记忆体、手和脚，让它可以作为智能体进行决策和工作。
微调大模型：基于基座大模型的 Fine Tuning。
训练大模型：大模型训练，高端赛道的角逐。
因此普通程序员研究大模型，不妨选择从外到内的思路，从套壳应用，再了解部署、微调和训练。
前置知识
Python
Python：AI 领域最常用的编程语言。要学会基础语法、数据结构等。Python 不难，对于一般程序员来说很容易上手。
向量数据库
随着 AI 的发展进入新的时代，知识的存储和表示就和向量分不开了。向量这个数学表达，在目前是人与 AI 交互的中间媒介。向量数据库是一种特殊的数据库，它以多维向量的形式保存信息。让大模型拥有'记忆'，就需要用到向量数据库。
常见的向量数据库包括：Chroma、ES、FAISS、Milvus 等，需要了解和会用。
实战应用
LangChain
要将大语言模型的能力开发成产品，就需要 LangChain 帮忙了。LangChain 是一个 LLM 编程框架，它提供了一套工具、组件和接口，借助 LangChain，我们可以更加便利地给大模型这个'大脑'装上记忆和四肢，更轻松地完成基于大模型的应用开发。
比如带有私有知识库的办公助手等 AI Agent，都可以借助 LangChain 来完成。
LangChain 主要支持 6 种组件：
- Models：模型，各种类型的模型和模型集成
- Prompts：提示，包括提示管理、提示优化和提示序列化
- Memory：记忆，用来保存和模型交互时的上下文状态
- Indexes：索引，用来结构化文档，以便和模型交互
- Chains：链，一系列对各种组件的调用
- Agents：代理，决定模型采取哪些行动，执行并且观察流程，直到完成为止
在本地搭建部署开源模型
从零入门大模型技术，其实还是有点门槛的，硬件资源就是一关。但还是有办法的。
建议选择清华 ChatGLM2-6B 开源大模型进行本地部署。ChatGLM2-6B 是 ChatGLM-6B 的第二代版本，62 亿的参数量的开源中英双语对话模型。
ChatGLM2-6B 在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，具有更强大的性能、支持更长的上下文、更强的推理能力的特点，是资源有限者的福音。
各种尺寸的模型需要消耗的资源请参考官方文档。
理论基础
机器学习基础
了解分类算法、回归算法、聚类算法、降维算法等经典的机器学习算法；
模型评估：交叉验证、偏差和方差、过拟合和欠拟合、性能指标（准确率、召回率、F1 分数等）。
深度学习基础
掌握 CNN、RNN 等经典网络模型，然后就是绕不开的 Transformer。
Transformer 是一个引入了 Self-attention 机制的模型，它是大语言模型的基石，支撑着庞大的大语言模型家族。
在代码层面，必须掌握的就是神经网络的框架，主流框架有 TensorFlow、PyTorch 等。
NLP 基础知识
NLP、NLU、NLG 的差别；
自然语言处理中的基本任务和相关的应用；
TF-IDF、word2vec、BERT 等基本算法和技术；
预训练语言模型：模型的输入、模型的结构、训练的任务、模型的输出；
可以直接从 word2vec 开始了解，然后到 transformer，bert。
