大到阿里，小到三线公司，缓存在大型分布式系统中的最佳应用( 三 ) _缓存

（7）缓存策略：memcached的缓存策略是LRU（最近最少使用）到期失效策略。在memcached内存储数据项时，可以指定它在缓存的失效时间，默认为永久。当memcached服务器用完分配的内时，失效的数据被首先替换，然后也是最近未使用的数据。在LRU中，memcached使用的是一种Lazy Expiration策略，自己不会监控存入的key/vlue对是否过期，而是在获取key值时查看记录的时间戳，检查key/value对空间是否过期，这样可减轻服务器的负载。
Memcache工作原理：

文章插图

Memcache的工作流程如下：
（1）先检查客户端的请求数据是否在memcached中，如有，直接把请求数据返回，不再对数据库进行任何操作。
（2）如果请求的数据不在memcached中，就去查数据库，把从数据库中获取的数据返回给客户端，同时把数据缓存一份到memcached中（memcached客户端不负责，需要程序实现）。
（3）每次更新数据库的同时更新memcached中的数据，保证一致性。
（4）当分配给memcached内存空间用完之后，会使用LRU（Least Recently Used，最近最少使用）策略加上到期失效策略，失效数据首先被替换，然后再替换掉最近未使用的数据。
Memcache集群
memcached 虽然称为“分布式 ” 缓存服务器，但服务器端并没有 “ 分布式 ” 功能。每个服务器都是完全独立和隔离的服务。memcached 的分布式，是由客户端程序实现的。
当向memcached集群存入/取出key value时，memcached客户端程序根据一定的算法计算存入哪台服务器，然后再把key value值存到此服务器中。
存取数据分二步走，第一步，选择服务器，第二步存取数据。

文章插图

分布式算法(Consistent Hashing)：
选择服务器算法有两种，一种是根据余数来计算分布，另一种是根据散列算法来计算分布。

余数算法：

先求得键的整数散列值，再除以服务器台数，根据余数确定存取服务器。
优点：计算简单，高效。
缺点：在memcached服务器增加或减少时，几乎所有的缓存都会失效。

散列算法：（一致性Hash）

先算出memcached服务器的散列值，并将其分布到0到2的32次方的圆上，然后用同样的方法算出存储数据的键的散列值并映射至圆上，最后从数据映射到的位置开始顺时针查找，将数据保存到查找到的第一个服务器上，如果超过2的32次方，依然找不到服务器，就将数据保存到第一台memcached服务器上。

文章插图

如果添加了一台Memcached服务器，只在圆上增加服务器的逆时针方向的第一台服务器上的键会受到影响。
一致性Hash算法：解决了余数算法增加节点命中大幅额度降低的问题，理论上，插入一个实体节点，平均会影响到：虚拟节点数 /2 的节点数据的命中。
2、Redis
Redis 是一个开源（BSD许可）的，基于内存的，多数据结构存储系统。可以用作数据库、缓存和消息中间件。支持多种类型的数据结构，如字符串（strings），散列（hashes），列表（lists），集合（sets），有序集合（sorted sets）与范围查询，bitmaps，hyperloglogs 和地理空间（geospatial）索引半径查询。
内置了复制（replication），LUA脚本（Lua scripting），LRU驱动事件（LRU eviction），事务（transactions）和不同级别的磁盘持久化（persistence），并通过 Redis哨兵（Sentinel）和自动分区（Cluster）提供高可用性（high availability）。
Redis常用数据类型

String

常用命令：set，get，decr，incr，mget 。
应用场景：String是最常用的一种数据类型，与Memcache的key value存储方式类似。
实现方式：String在Redis内部存储默认就是一个字符串，被redisObject所引用，当遇到incr，decr等操作时会转成数值型进行计算，此时redisObject的encoding字段为int 。

Hash

常用命令：hget，hset，hgetall。
应用场景：以存储一个用户信息对象数据，为例：

文章插图

实现方式：Redis Hash对应的Value，内部实际就是一个HashMap，实际这里会有2种不同实现。
（1）Hash的成员比较少时Redis为了节省内存会采用类似一维数组的方式来紧凑存储，而不会采用真正的HashMap结构，对应的value redisObject的encoding为zipmap 。