概述
一般应用而言,追求的都是缓存的最终一致性。
缓存穿透
一般的缓存系统,都是按照key去缓存查询,如果不存在对应的value,就应该去后端系统查找(比如DB)。如果key对应的value是一定不存在的,并且对该key并发请求量很大,就会对后端系统造成很大的压力。这就叫做缓存穿透。
缓存并发
缓存失效问题
引起这个问题的主要原因还是高并发的时候,平时我们设定一个缓存的过期时间时,可能有一些会设置1分钟啊,5分钟这些,并发很高时可能会出在某一个时间同时生成了很多的缓存,并且过期时间都一样,这个时候就可能引发一当过期时间到后,这些缓存同时失效,请求全部转发到DB,DB可能会压力过重。
那如何解决这些问题呢?
其中的一个简单方案就时讲缓存失效时间分散开,比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。
几种方案
下面的几种方案中,都要设置缓存过期时间。以避免一旦出现脏数据后产生无法保证最终一致性。
先删除缓存,然后再更新数据库
明显是错误的。两个并发操作,一个是更新操作,另一个是查询操作,更新操作删除缓存后,查询操作没有命中缓存,先把老数据读出来后放到缓存中,然后更新操作更新了数据库。于是,在缓存中的数据还是老的数据,导致缓存中的数据是脏的,而且还一直这样脏下去了。
Cache Aside Pattern
先把数据存到数据库中,成功后,再让缓存失效。
这是最常用的套路。
一个是读操作,但是没有命中缓存,然后就到数据库中取数据,此时来了一个写操作,写完数据库后,让缓存失效,然后,之前的那个读操作再把老的数据放进去,所以,会造成脏数据。但是实际上出现的概率可能非常低,因为这个条件需要发生在读缓存时缓存失效,而且并发着有一个写操作。而实际上数据库的写操作会比读操作慢得多,而且还要锁表,而读操作必需在写操作前进入数据库操作,而又要晚于写操作更新缓存,所有的这些条件都具备的概率基本并不大。
一个简单的例子
public abstract class CacheAside<M, C extends CacheManager> {
@Autowired
M mapper;//DAO对象
@Autowired
C cacheManager;//Cache对象
private ReentrantLock lock = new ReentrantLock();
protected String partition = "default";
protected abstract Object lookupFromDB(Object key);
protected abstract int updateDB(Object o);
protected abstract int deleteDB(Object key);
protected abstract void setPartition();
/**
* 查询方法,优选查询cache,
* hit --> 返回
* miss --> 查询DB,保存到cache,返回
* @param key 查询key
* @return 缓存数据
*/
public Object get(Object key) {
Object val = cacheManager.get(partition, key);
if (val != null) {
return val;
} else {
lock.lock();
try {
val = lookupFromDB(key);
cacheManager.put(partition, key, val);
} catch (Exception e) {
e.printStackTrace();
} finally {
lock.unlock();
}
return val;
}
}
/**
* 更新方法,更新数据库后再使对应条目的cache条目失效
* @param o 需要更新的数据,pojo形式
* @param key 该条目存在cache中的key
* @return 是否成功
*/
public boolean put(Object o, Object key) {
boolean ret = true;
lock.lock();
try {
updateDB(o);
cacheManager.del(partition, key);
} catch (Exception e) {
e.printStackTrace();
ret = false;
} finally {
lock.unlock();
}
return ret;
}
/**
* 删除方法,删除数据库后再使对应条目的cache条目失效
* @param key 数据存在于cache中的key,也用于该条数据查询数据库的条件(i.e. ID)
* @return 是否成功
*/
public boolean del(Object key) {
boolean ret = true;
lock.lock();
try {
deleteDB(key);
cacheManager.del(partition, key);
} catch (Exception e) {
e.printStackTrace();
ret = false;
} finally {
lock.unlock();
}
return ret;
}
protected M getMapper() {
return mapper;
}
}