【MySQL】索引(上)

【MySQL】索引(上)
欢迎拜访雾里看山-ZEEKLOG博客
本篇主题:【MySQL】索引(上)
发布时间:2025.2.26
隶属专栏MySQL

目录

初始索引

基本介绍

索引:提高数据库的性能,索引是物美价廉的东西了。不用加内存,不用改程序,不用调sql,只要执行正确的 create index ,查询速度就可能提高成百上千倍。但是天下没有免费的午餐,查询速度的提高是以插入、更新、删除的速度为代价的,这些写操作,增加了大量的IO。所以它的价值,在于提高一个海量数据的检索速度

常见索引分类

  1. 主键索引(primary key)
  2. 唯一索引(unique)
  3. 普通索引(index)
  4. 全文索引(fulltext)–解决中子文索引问题。

案例使用

先整一个海量表,在查询的时候,看看没有索引时有什么问题?

--构建一个8000000条记录的数据--构建的海量表数据需要有差异性,所以使用存储过程来创建, 拷贝下面代码就可以了,暂时不用理解-- 产生随机字符串delimiter $$ createfunction rand_string(n INT)returnsvarchar(255)begindeclare chars_str varchar(100)default'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';declare return_str varchar(255)default'';declare i intdefault0;while i < n doset return_str =concat(return_str,substring(chars_str,floor(1+rand()*52),1));set i = i +1;endwhile;return return_str;end $$ delimiter;--产生随机数字delimiter $$ createfunction rand_num()returnsint(5)begindeclare i intdefault0;set i = floor(10+rand()*500);return i;end $$ delimiter;--创建存储过程,向雇员表添加海量数据delimiter $$ createprocedure insert_emp(instartint(10),in max_num int(10))begindeclare i intdefault0;set autocommit =0;repeatset i = i +1;insertinto EMP values((start+i),rand_string(6),'SALESMAN',0001,curdate(),2000,400,rand_num()); until i = max_num endrepeat;commit;end $$ delimiter;-- 执行存储过程,添加8000000条记录call insert_emp(100001,8000000);

到此,已经创建出了海量数据的表了。

  1. 查询员工编号为998877的员工
mysql>select*from EMP where empno=998877;+--------+--------+----------+------+---------------------+---------+--------+--------+| empno | ename | job | mgr | hiredate | sal | comm | deptno |+--------+--------+----------+------+---------------------+---------+--------+--------+|998877| vnaqzD | SALESMAN |0001|2025-02-2200:00:00|2000.00|400.00|198|+--------+--------+----------+------+---------------------+---------+--------+--------+1rowinset(8.86 sec)

可以看到耗时8.86秒,这还是在本机一个人来操作,在实际项目中,如果放在公网中,假如同时有1000个人并发查询,那很可能就死机。

  1. 解决方法,创建索引
mysql>altertable EMP addindex(empno); Query OK,0rows affected (22.08 sec) Records: 0 Duplicates: 0Warnings: 0
  1. 换一个员工编号,测试看看查询时间
mysql>select*from EMP where empno=998877;+--------+--------+----------+------+---------------------+---------+--------+--------+| empno | ename | job | mgr | hiredate | sal | comm | deptno |+--------+--------+----------+------+---------------------+---------+--------+--------+|998877| vnaqzD | SALESMAN |0001|2025-02-2200:00:00|2000.00|400.00|198|+--------+--------+----------+------+---------------------+---------+--------+--------+1rowinset(0.01 sec) mysql>select*from EMP where empno=445566;+--------+--------+----------+------+---------------------+---------+--------+--------+| empno | ename | job | mgr | hiredate | sal | comm | deptno |+--------+--------+----------+------+---------------------+---------+--------+--------+|445566| daTpSu | SALESMAN |0001|2025-02-2200:00:00|2000.00|400.00|216|+--------+--------+----------+------+---------------------+---------+--------+--------+1rowinset(0.00 sec)

认识磁盘

MySQL 与 存储

MySQL 给用户提供存储服务,而存储的都是数据,数据在磁盘这个外设当中。磁盘是计算机中的一个机械设备,相比于计算机其他电子元件,磁盘效率是比较低的,在加上IO本身的特征,可以知道,如何提交效率,是 MySQL 的一个重要话题。

关于磁盘

磁盘的物理结构

在这里插入图片描述


关于磁盘的盘片

在这里插入图片描述

关于扇区

数据库文件,本质其实就是保存在磁盘的盘片当中。也就是上面的一个个小格子中,就是我们经常所说的扇区。当然,数据库文件很大,也很多,一定需要占据多个扇区。

题外话:

  • 从上图可以看出来,在半径方向上,距离圆心越近,扇区越小,距离圆心越远,扇区越大
  • 那么,所有扇区都是默认512字节吗?目前是的,我们也这样认为。因为保证一个扇区多大,是由比特位密度决定的。
  • 不过最新的磁盘技术,已经慢慢的让扇区大小不同了,不过我们现在暂时不考虑。

我们在使用Linux,所看到的大部分目录或者文件,其实就是保存在硬盘当中的。(当然,有一些内存文件系统,如: procsys 之类,我们不考虑)

root@VM-20-16-ubuntu:/var/lib/mysql# ll total 254044 drwxr-x--- 11 mysql mysql 4096 Feb 2214:56 ./ drwxr-xr-x 45 root root 4096 Feb 2121:24 ../ -rw-r----- 1 mysql mysql 56 Jan 2012:21 auto.cnf drwxr-x--- 2 mysql mysql 4096 Feb 2215:18 bit_index/ -rw------- 1 mysql mysql 1680 Jan 2012:21 ca-key.pem -rw-r--r-- 1 mysql mysql 1112 Jan 2012:21 ca.pem -rw-r--r-- 1 mysql mysql 1112 Jan 2012:21 client-cert.pem -rw------- 1 mysql mysql 1676 Jan 2012:21 client-key.pem drwxr-x--- 2 mysql mysql 4096 Jan 2116:34 database1/ -rw-r----- 1 mysql mysql 379 Jan 2214:47 ib_buffer_pool -rw-r----- 1 mysql mysql 146800640 Feb 2215:18 ibdata1 -rw-r----- 1 mysql mysql 50331648 Feb 2215:18 ib_logfile0 -rw-r----- 1 mysql mysql 50331648 Feb 2215:18 ib_logfile1 -rw-r----- 1 mysql mysql 12582912 Feb 2119:46 ibtmp1 drwxr-x--- 2 mysql mysql 4096 Jan 2012:21 mysql/ drwxr-x--- 2 mysql mysql 4096 Jan 2012:21 performance_schema/ -rw------- 1 mysql mysql 1680 Jan 2012:21 private_key.pem -rw-r--r-- 1 mysql mysql 452 Jan 2012:21 public_key.pem drwxr-x--- 2 mysql mysql 4096 Feb 2119:46 scott/ -rw-r--r-- 1 mysql mysql 1112 Jan 2012:21 server-cert.pem -rw------- 1 mysql mysql 1676 Jan 2012:21 server-key.pem drwxr-x--- 2 mysql mysql 12288 Jan 2012:21 sys/ drwxr-x--- 2 mysql mysql 4096 Feb 1816:23 test/ drwxr-x--- 2 mysql mysql 4096 Feb 1716:58 test_db/ drwxr-x--- 2 mysql mysql 4096 Jan 2216:22 user_db/ 

所以,最基本的,找到一个文件的全部,本质,就是在磁盘找到所有保存文件的扇区。
而我们能够定位任何一个扇区,那么便能找到所有扇区,因为查找方式是一样的。

定位扇区

在这里插入图片描述
  • 柱面(磁道): 多盘磁盘,每盘都是双面,大小完全相等。那么同半径的磁道,整体上便构成了一个柱面
  • 每个盘面都有一个磁头,那么磁头和盘面的对应关系便是1对1的
  • 所以,我们只需要知道,磁头(Heads)、柱面(Cylinder)(等价于磁道)、扇区(Sector)对应的编号。即可在磁盘上定位所要访问的扇区。这种磁盘数据定位方式叫做 CHS 。不过实际系统软件使用的并不是 CHS (但是硬件是),而是 LBA ,一种线性地址,可以想象成虚拟地址与物理地址。系统将 LBA 地址最后会转化成为 CHS ,交给磁盘去进行数据读取。不过,我们现在不关心转化细节,知道这个东西,让我们逻辑自洽起来即可。

结论

我们现在已经能够在硬件层面定位,任何一个基本数据块了(扇区)。那么在系统软件上,就直接按照扇区(512字节,部分4096字节),进行IO交互吗?不是

  • 如果操作系统直接使用硬件提供的数据大小进行交互,那么系统的IO代码,就和硬件强相关,换言之,如果硬件发生变化,系统必须跟着变化
  • 从目前来看,单次IO 512字节,还是太小了。IO单位小,意味着读取同样的数据内容,需要进行多次磁盘访问,会带来效率的降低。
  • 之前学习文件系统,就是在磁盘的基本结构下建立的,文件系统读取基本单位,就不是扇区,而是数据块。

故,系统读取磁盘,是以块为单位的,基本单位是 4KB

磁盘随机访问(Random Access)与连续访问(Sequential Access)

随机访问:本次IO所给出的扇区地址和上次IO给出扇区地址不连续,这样的话磁头在两次IO操作之间需要作比较大的移动动作才能重新开始读/写数据。

连续访问:如果当次IO给出的扇区地址与上次IO结束的扇区地址是连续的,那磁头就能很快的开始这次 IO操作,这样的多个IO操作称为连续访问。

因此尽管相邻的两次IO操作在同一时刻发出,但如果它们的请求的扇区地址相差很大的话也只能称为随机访问,而非连续访问。

磁盘是通过机械运动进行寻址的,随机访问不需要过多的定位,故效率比较高。

MySQL 与磁盘交互基本单位

MySQL 作为一款应用软件,可以想象成一种特殊的文件系统。它有着更高的IO场景,所以,为了提高基本的IO效率, MySQL 进行IO的基本单位是 16KB (后面统一使用 InnoDB 存储引擎为例)

mysql>showglobalstatuslike'innodb_page_size';+------------------+-------+| Variable_name |Value|+------------------+-------+| Innodb_page_size |16384|-- 16*1024=16384+------------------+-------+1rowinset(0.00 sec)

也就是说,磁盘这个硬件设备的基本单位是 512 字节,而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即, MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元,在 MySQL 这里叫做page(注意和系统的page区分)

建立共识

  • MySQL 中的数据文件,是以page为单位保存在磁盘当中的。
  • MySQLCURD 操作,都需要通过计算,找到对应的插入位置,或者找到对应要修改或者查询的数据。
  • 而只要涉及计算,就需要CPU参与,而为了便于CPU参与,一定要能够先将数据移动到内存当中。
  • 所以在特定时间内,数据一定是磁盘中有,内存中也有。后续操作完内存数据之后,以特定的刷新策略,刷新到磁盘。而这时,就涉及到磁盘和内存的数据交互,也就是IO了。而此时IO的基本单位就是Page。
  • 为了更好的进行上面的操作, MySQL 服务器在内存中运行的时候,在服务器内部,就申请了被称为 Buffer Pool 的的大内存空间,来进行各种缓存。其实就是很大的内存空间,来和磁盘数据进行IO交互。
  • 为何更高的效率,一定要尽可能的减少系统和磁盘IO的次数
⚠️ 写在最后:以上内容是我在学习以后得一些总结和概括,如有错误或者需要补充的地方欢迎各位大佬评论或者私信我交流!!!

Read more

初探算法的魅力——【暴力枚举】

初探算法的魅力——【暴力枚举】

点击下面查看作者专栏🔥🔥C语言专栏🔥🔥🌊🌊编程百度🌊🌊🌠🌠如何获取自己的代码仓库🌠🌠 🌐索引与导读 * 暴力枚举(BF)的概念 * 暴力枚举的算法步骤 * 例题讲解 * 经典案例讲解一:百鸡问题 * 题目解析 * 思路方案 * 经典案例讲解二:盛最多水的容器 * 暴力枚举算法 * 最优解 * 经典案例讲解三:两数之和 * 经典案例讲解四:2025 * 💻 代码实现 * 希望读者多多三连 * 给小编一些动力 * 蟹蟹啦! 暴力枚举(BF)的概念 暴力枚举也称为穷举法,是计算机算法中最基础、最直观,但也是最费劲的一种解题思路 像我们平时没有最优解的算法题,往往都可以通过暴力枚举去算出最终结果 * 核心思想 不靠巧妙的技巧,而是利用计算机强大的计算能力,把所有可能的情况列举出来,一个一个去验证,直到找到正确答案 暴力枚举的算法步骤 * 列举 :确定解空间的范围,列出所有可能的解候选者 * 检验 :对每一个候选者进行判断,看它是否满足题目

关于hashset和hashmap,还有treeset和treemap,四个的关系

TreeSet 和 TreeMap 是 Java 集合框架中两个重要的类,它们的关系非常紧密。简单来说,TreeSet 是基于 TreeMap 实现的。 可以将它们的关系理解为:TreeSet 是一个只包含“键”的 TreeMap。 下面详细解释一下: 1. 核心实现关系 在 Java 的源代码中,TreeSet内部维护了一个 TreeMap对象(或 NavigableMap对象)作为其核心存储。当您向 TreeSet中添加一个元素时,这个元素实际上被当作 key放入了内部的 TreeMap中,而 value则是一个固定的、无意义的占位对象。 2. 共同特征(因为它们共享同一个底层结构) * 有序性:它们都会对元素(对 TreeMap来说是键)进行自然排序(元素实现 Comparable接口)或根据构造时传入的 Comparator 进行排序。

Flutter 三方库 hashids2 基于鸿蒙安全内核的深度隐匿映射适配:数字指纹泄露防御层、生成短小精悍唯一不可逆加盐哈希,护航全链路请求 URL 隐私-适配鸿蒙 HarmonyOS ohos

Flutter 三方库 hashids2 基于鸿蒙安全内核的深度隐匿映射适配:数字指纹泄露防御层、生成短小精悍唯一不可逆加盐哈希,护航全链路请求 URL 隐私-适配鸿蒙 HarmonyOS ohos

欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.ZEEKLOG.net Flutter 三方库 hashids2 基于鸿蒙安全内核的深度隐匿映射适配:突破高敏感数字指纹泄露防御层、生成短小精悍唯一不可逆加盐哈希,护航全链路请求 URL 隐私资产 在鸿蒙应用的高度依赖数据隐私(如隐藏数据库递增 ID、生成短网址或混淆用户主页链接)中,如何将枯燥的数字转换为非连续、看似随机且人类友好的标识符?hashids2 库提供了一套基于 Hashids 协议的工业级加密 ID 生成方案。本文将详解该库在 OpenHarmony 上的适配要点。 前言 什么是 hashids2?当你在 URL 中展示 user/123 时,攻击者很容易通过猜测 124 或 125 来爬取你的数据。hashids2 能够根据你设定的盐值(Salt)。将整数 123 转换为类似

【数据结构指南】栈

【数据结构指南】栈

前言:         厨房里叠放的盘子想必大家都见过,新洗好的只能放在最顶层,使用时也必须从最上层开始取。羽毛球桶里的羽毛球也是如此,用过的球只能放回顶层,取用时也必须从最上层拿取。这些日常场景里,其实都藏着一种重要的数据结构:栈。         关于栈的一个笑话:从前有一家客栈,客栈有一条规矩:最早进来的人最晚上菜,最晚进来的人最早上菜。有一天,一个人早早来到客栈吃饭,发现一个比他来的还晚的人已经吃完饭走了,而店主还没上自己的菜。吃完饭后他问店主这是为什么,店主回答:“因为我们是客栈啊。 本文系统讲解栈这一数据结构,从基础概念到实际应用进行全面剖析。通过清晰的逻辑和丰富的实例,即使是数据结构初学者也能轻松掌握核心要点。 一、栈的基本概念          1.1栈的定义         栈  (stack) 是一种特殊的线性表,其只允许在固定的一端进行插入和删除元素操作,其核心特性遵循后进先出原则,这种特性可以形象地类比为叠放盘子的过程:最晚放入的盘子  (后进)  会被最先取出  (先出)  ,而最早放入的盘子  (先进)  则最后才能取出  (后出)