大到阿里，小到三线公司，缓存在大型分布式系统中的最佳应用( 二 ) _缓存

淘宝CDN，如下图（来自网络）：

文章插图

三、反向代理缓存
反向代理是指在网站服务器机房部署代理服务器，实现负载均衡、数据缓存、安全控制等功能。
1、缓存原理
反向代理位于应用服务器机房，处理所有对WEB服务器的请求。如果用户请求的页面在代理服务器上有缓冲的话，代理服务器直接将缓冲内容发送给用户。如果没有缓冲则先向WEB服务器发出请求，取回数据，本地缓存后再发送给用户。通过降低向WEB服务器的请求数，从而降低了WEB服务器的负载。

文章插图

反向代理一般缓存静态资源，动态资源转发到应用服务器处理。常用的缓存应用服务器有Varnish、Ngnix、Squid 。
2、Squid示例
Squid 反向代理一般只缓存静态资源，动态程序默认不缓存。根据从 WEB 服务器返回的 HTTP 头标记来缓冲静态页面。有四个最重要 HTTP 头标记：

Last-Modified：告诉反向代理页面什么时间被修改
Expires：告诉反向代理页面什么时间应该从缓冲区中删除
Cache-Control：告诉反向代理页面是否应该被缓冲
Pragma用来包含实现特定的指令，最常用的是 Pragma:no-cache

文章插图

Squid 反向代理加速网站实例

通过DNS的轮询技术，将客户端的请求分发给其中一台 Squid 反向代理服务器处理；
如果这台 Squid 缓存了用户的请求资源，则将请求的资源直接返回给用户；
否则这台 Squid 将没有缓存的请求根据配置的规则发送给邻居 Squid 和后台的 WEB 服务器处理；
这样既减轻后台 WEB 服务器的负载，又提高整个网站的性能和安全性。

2、代理缓存比较
常用的代理缓存有Varnish，Squid，Ngnix，简单比较如下：
（1）varnish和squid是专业的cache服务，Nginx需要第三方模块支持；
（2） Varnish采用内存型缓存，避免了频繁在内存、磁盘中交换文件，性能比Squid高；
（3）Varnish由于是内存cache，所以对小文件如css,js,小图片啥的支持很棒，后端的持久化缓存可以采用的是Squid或ATS；
（4）Squid功能全而大，适合于各种静态的文件缓存，一般会在前端挂一个HAProxy或nginx做负载均衡跑多个实例；
（5）Nginx采用第三方模块ncache做的缓冲，性能基本达到varnish，一般作为反向代理使用，可以实现简单的缓存。
四、分布式缓存
CDN，反向代理缓存，主要解决静态文件，或用户请求资源的缓存，数据源一般为静态文件或动态生成的文件（有缓存头标识）。
而分布式缓存，主要指缓存用户经常访问数据的缓存，数据源为数据库。一般起到热点数据访问和减轻数据库压力的作用。
目前分布式缓存设计，在大型网站架构中是必备的架构要素。常用的中间件有Memcache，Redis 。
1、Memcache
Memcache是一个高性能，分布式内存对象缓存系统，通过在内存里维护一个统一的巨大的hash表，它能够用来存储各种格式的数据，包括图像、视频、文件以及数据库检索的结果等。简单的说就是将数据调用到内存中，然后从内存中读取，从而大大提高读取速度。
Memcache特性：
（1）使用物理内存作为缓存区，可独立运行在服务器上。每个进程最大2G，如果想缓存更多的数据，可以开辟更多的Memcache进程（不同端口）或者使用分布式Memcache进行缓存，将数据缓存到不同的物理机或者虚拟机上。
（2）使用key-value的方式来存储数据，这是一种单索引的结构化数据组织形式，可使数据项查询时间复杂度为O(1) 。
（3）协议简单：基于文本行的协议，直接通过telnet在memcached服务器上可进行存取数据操作，简单，方便多种缓存参考此协议。
（4）基于Libevent高性能通信：Libevent是一套利用C开发的程序库，它将BSD系统的kqueue，linux系统的epoll等事件处理功能封装成一个接口，与传统的select相比，提高了性能。
（5）内置的内存管理方式：所有数据都保存在内存中，存取数据比硬盘快，当内存满后，通过LRU算法自动删除不使用的缓存，但没有考虑数据的容灾问题，重启服务，所有数据会丢失。
（6）分布式：各个memcached服务器之间互不通信，各自独立存取数据，不共享任何信息。服务器并不具有分布式功能，分布式部署取决于Memcache客户端。