这篇blog是在上一家互联网公司某产品开发过程中的一些经验总结,整理一下分享上来。
关于mutex模式:
对于高并发大访问量的应用,一般都会在数据库访问前加一层缓存系统。
但是如果某一时刻某个缓存的key失效,而reload该key缓存的时间又比较长,导致大量的请求直接访问数据库,则会直接将数据库击垮。
解决方案:
当在缓存中获取某个key为null时,add一个mutex key,并进行数据的reload工作,数据reload后删除该mutex key。
如果另外一个线程访问该key也为null,则也会add一个mutex key,但发现add不进去(已经包含了该mutex key)。这时设置这个线程sleep一段时间后,再重试(可以设置重试次数)。如果全部重试完还是没有reload完数据则响应一个异常状态或响应304给终端。
程序部分伪码实现(缓存系统用的是Memcached):
//根据业务生成一个Cache Key. String categoryListMemcachedKey = genCategoryListCacheKey(parentId); MemCache memcached=MemCache.getInstance(); //该业务Key不存在或失效 if(memcached.get(categoryListMemcachedKey)==null){ //设置该业务键的mutex key. String mutexKey=categoryListMemcachedKey+"|mutex"; if(memcached.add(mutexKey,1*60*1000)==true){//reload in 1min //categoryListStr代表数据库查询后构建的结果 categoryListStr=dbResult; if("".equals(categoryListStr)){//set ""相当于没set,高并发请求仍旧会击跨数据库. memcached.set(categoryListMemcachedKey,"nodata",new Date(1000*60*1));//防止假数据一直存在缓存中,设置过期时间1min. }else{ memcached.set(categoryListMemcachedKey,categoryListStr); } //删除mutex key memcached.delete(mutexKey); }else{//某线程正在load数据 try { Thread.sleep(50);//当前线程睡眠50ms categoryListStr=(String)retry(memcached,categoryListMemcachedKey,3);//重试3次 if(categoryListStr==null){categoryListStr = "nodata";} } catch (Throwable e) { LogFactory.getLog(MemcachedCacheManager.class).error("Thread sleep error:",e); } } }else{//缓存中已存在该业务key System.out.println("There has "+categoryListMemcachedKey+" in memcached!"); categoryListStr=(String)memcached.get(categoryListMemcachedKey); }
上面代码中的重试方法(递归实现):
/** 重试 */ public static Object retry(MemCache memcached,String key,int tryNum){ System.out.println("In retry:"+key+" tryNum:"+tryNum+"!"); if(memcached.get(key)==null){//重试还是取不到数据 System.out.println("Retry no data!"); if(tryNum==0){//已达到重试上限 System.out.println("There is no tryNum "+key+"!"); return null;//返回null }else{ try { Thread.sleep(50);//睡眠50ms } catch (Throwable e) { e.printStackTrace(); } return retry(memcached,key,--tryNum);//递归重试 } }else{ System.out.println("Retry have data!"); return memcached.get(key); } }
参考资料:
关于mutex设计模式:http://timyang.net/programming/memcache-mutex/ 这是新浪某大牛的blog,也是最初看到探讨mutex模式的文章。