漫谈缓冲和缓存

1. 举个通俗的栗子：

比如说出国旅游，一个箱子一个腰包，在机场，腰包里装的是机票，护照，人民币。到了酒店，出去玩，腰包里放的是地图，门票，外币。护照人民币在哪里？在酒店的保险柜里。

把当前最常用的东西，放在最容易拿的地方，这就是cache。

旅游回来，下了飞机坐火车，下了火车上小巴。交了钱，车却不走，司机打开门，对着外面喊，

“再上两个，凑够十个就开车！”

这就是buffer。

2. buffer：缓冲

将数据缓冲下来，解决速度慢和快的交接问题；速度快的需要通过缓冲区将数据一点一点传给速度慢的区域。例如：从内存中将数据往硬盘中写入，并不是直接写入，而是缓冲到一定大小之后刷入硬盘中。

A buffer is something that has yet to be “written” to disk.

3. cache：缓存

实现数据的重复使用，速度慢的设备需要通过缓存将经常要用到的数据缓存起来，缓存下来的数据可以提供高速的传输速度给速度快的设备。例如：将硬盘中的数据读取出来放在内存的缓存区中，这样以后再次访问同一个资源，速度会快很多。

A cache is something that has been “read” from the disk and stored for later use.

4. 两者语义上的理解

俩英文单词，不先看看本义吗？虽然都是抽象单词，但在各个地方都有具象的应用。

Buffer常见的是这个：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-IUAHQGDQ-1584692726111)(https://pic4.zhimg.com/50/v2-b7b66d782898210d7bd22439e9238df3_hd.jpg]

（来源：train stop buffer bumper）
对，就是铁道端头那个巨大的弹簧一类的东西。作用是万一车没停住（是没停住啊，刹车了但是差一点没刹住那种，不是不拉刹直接撞上来），撞弹簧上减速慢，危险小一些。叫缓冲。

Cache常见的是这个：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Qp8hoMQg-1584692726112)(https://pic4.zhimg.com/50/v2-15f852f7456fc701c936075d9174f8ba_hd.jpg]
没错，就是一种保管箱。看到右边那个被锈掉的Food Cache没？这是部署在森林里的存应急物资的保管箱。功能是把你需要用的东西放在更容易拿到的地方。虽然常用准确翻译叫缓存，但个人以为意思表达的不对，丢了一半的功能。台湾的翻译更好，叫快取。

简单说，**Buffer的核心作用是用来缓冲，缓和冲击。**比如你每秒要写100次硬盘，对系统冲击很大，浪费了大量时间在忙着处理开始写和结束写这两件事嘛。用个buffer暂存起来，变成每10秒写一次硬盘，对系统的冲击就很小，写入效率高了，日子过得爽了。极大缓和了冲击。

Cache的核心作用是加快取用的速度。比如你一个很复杂的计算做完了，下次还要用结果，就把结果放手边一个好拿的地方存着，下次不用再算了。加快了数据取用的速度。

5.应用（直接I/O和缓存I/O）

缓存 I/O 又被称作标准 I/O，大多数文件系统的默认 I/O 操作都是缓存 I/O。在 Linux 的缓存 I/O 机制中，以write为例，数据会先被拷贝进程缓冲区，在拷贝到操作系统内核的缓冲区中，然后才会写到存储设备中。

缓存I/O的write：

直接I/O的write：（少了拷贝到进程缓冲区这一步）

write过程中会有很多次拷贝，知道数据全部写到磁盘。

所以，如果你注意关心过存储系统的话，你会发现硬盘的读写缓冲/缓存名称是不一样的，叫write-buffer和read-cache。很明显地说出了两者的区别。

当然很多时候宏观上说两者可能是混用的。比如实际上memcached很多人就是拿来读写都用的。不少时候Non-SQL数据库也是。严格来说，CPU里的L2和L3 Cache也都是读写兼用——因为你没法简单地定义CPU用它们的方法是读还是写。硬盘里也是个典型例子，buffer和cache都在一块空间上，到底是buffer还是cache？

6.总结

buffer是用于存放将要输出到disk（块设备）的数据，而cache是存放从disk上读出的数据。二者都是为提高IO性能而设计的。

cache 是为了弥补高速设备和低速设备的鸿沟而引入的中间层，最终起到加快访问速度的作用。
而 buffer 的主要目的进行流量整形，把突发的大数量较小规模的 I/O 整理成平稳的小数量较大规模的 I/O，以减少响应次数（比如从网上下电影，你不能下一点点数据就写一下硬盘，而是积攒一定量的数据以后一整块一起写，不然硬盘都要被你玩坏了）。

1、Buffer（缓冲区）是系统两端处理速度平衡（从长时间尺度上看）时使用的。它的引入是为了减小短期内突发I/O的影响，起到流量整形的作用。比如生产者——消费者问题，他们产生和消耗资源的速度大体接近，加一个buffer可以抵消掉资源刚产生/消耗时的突然变化。
2、Cache（缓存）则是系统两端处理速度不匹配时的一种折衷策略。因为CPU和memory之间的速度差异越来越大，所以人们充分利用数据的局部性（locality）特征，通过使用存储系统分级（memory hierarchy）的策略来减小这种差异带来的影响。
3、假定以后存储器访问变得跟CPU做计算一样快，cache就可以消失，但是buffer依然存在。比如从网络上下载东西，瞬时速率可能会有较大变化，但从长期来看却是稳定的，这样就能通过引入一个buffer使得OS接收数据的速率更稳定，进一步减少对磁盘的伤害。

最后，一句话总结：Buffer 提吞吐，Cache 降延迟