如何细粒度地控制你的MyBatis二级缓存(mybatis-enhanced-cache插件实现)

转自:如何细粒度地控制你的MyBatis二级缓存(mybatis-enhanced-cache插件实现)


      前几天网友chanfish 给我抛出了一个问题,笼统地讲就是如何能细粒度地控制MyBatis的二级缓存问题,酝酿了几天,觉得可以写个插件来实现这个这一功能。本文就是从问题入手,一步步分析现存的MyBatis的二级缓存的不足之处,探讨一点可以改进的地方,并且对不足之处开发一个插件进行弥补。

本文如下组织结构:
  1. 一个关于MyBatis的二级缓存的实际问题

  2. 当前MyBatis二级缓存的工作机制

  3. mybatis-enhanced-cache插件的设计和工作原理

  4. mybatis-enhanced-cache 插件的使用实例

1.一个关于MyBatis的二级缓存的实际问题

网友chanfish 给我抛出的问题现有AMapper.xml中定义了对数据库
ATable
的CRUD操作,BMapper定义了对数据库表BTable的CRUD操作;
假设 MyBatis 的二级缓存开启,并且
AMapper
中使用了二级缓存,AMapper对应的二级缓存为ACache
除此之外,AMapper 中还定义了一个跟BTable有关的查询语句,类似如下所述:



  1. <select id="selectATableWithJoin" resultMap="BaseResultMap" useCache="true">

  2.       select * from ATable left join BTable on ....

  3. </select>



执行以下操作:

1. 执行AMapper中的"selectATableWithJoin" 操作,此时会将查询到的结果放置到AMapper对应的二级缓存ACache中;

2. 执行BMapper中对BTable的更新操作(update、delete、insert)后,BTable的数据更新;

3. 再执行1完全相同的查询,这时候会直接从AMapper二级缓存ACache中取值,将ACache中的值直接返回;
好,问题就出现在第3步上:

     由于AMapper的“selectATableWithJoin” 对应的SQL语句需要和BTable进行join查找,而在第 2 步BTable的数据已经更新了,但是第
3 步查询的值是第 1 步的缓存值,已经极有可能跟真实数据库结果不一样,即ACache中缓存数据过期了!


总结来看,就是:

对于某些使用了 join连接的查询,如果其关联的表数据发生了更新,join连接的查询由于先前缓存的原因,导致查询结果和真实数据不同步;

从MyBatis的角度来看,这个问题可以这样表述:

对于某些表执行了更新(update、delete、insert)操作后,如何去清空跟这些表有关联的查询语句所造成的缓存;

当前的MyBatis的缓存机制不能很好地处理这一问题,下面我们将从当前的MyBatis的缓存机制入手,分析这一问题:

2. 当前MyBatis二级缓存的工作机制:


当前MyBatis二级缓存的工作机制:

MyBatis二级缓存的一个重要特点:即松散的Cache缓存管理和维护。

     一个Mapper中定义的增删改查操作只能影响到自己关联的Cache对象。如上图所示的Mapper namespace1中定义的若干CRUD语句,产生的缓存只会被放置到相应关联的Cache1中,即Mapper namespace2,namespace3,namespace4 中的CRUD的语句不会影响到Cache1。

     可以看出,Mapper之间的缓存关系比较松散,相互关联的程度比较弱。



     现在再回到上面描述的问题,如果我们将AMapper和BMapper共用一个Cache对象,那么,当BMapper执行更新操作时,可以清空对应Cache中的所有的缓存数据,这样的话,数据不是也可以保持最新吗?

    确实这个也是一种解决方案,不过,它会使缓存的使用效率变的很低!AMapper和BMapper的任意的更新操作都会将共用的Cache清空,会频繁地清空Cache,导致Cache实际的命中率和使用率就变得很低了,所以这种策略实际情况下是不可取的。



最理想的解决方案就是:

          对于某些表执行了更新(update、delete、insert)操作后,如何去清空跟这些表有关联的查询语句所造成的缓存;

这样,就是以很细的粒度管理MyBatis内部的缓存,使得缓存的使用率和准确率都能大大地提升。

    基于这个思路,我写了一个对应的mybatis-enhanced-cache 缓存插件,可以很好地支持上述的功能。

    对于上述的例子中,该插件可以实现:当BMapper对BTable执行了更新操作时,指定清除与BTable相关联的selectATableWithJoin查询语句在ACache中产生的缓存。



     接下来就来看看这个mybatis-enhanced-cache插件的设计原理吧:


3.mybatis-enhanced-cache插件的设计和工作原理

mybatis-enhanced-cache插件的设计和工作原理该插件主要由两个构件组成:EnhancedCachingExecutorEnhancedCachingManager

EnhancedCachingExecutor是针对于Executor的拦截器,拦截Executor的几个关键的方法;

EnhancedCachingExecutor主要做以下几件事:
1. 每当有Executor执行query操作时,

       1.1  记录下该查询StatementId和CacheKey,然后将其添加到EnhancedCachingManager中;

       1.2  记录下该查询StatementId 和此StatementId所属Mapper内的Cache缓存对象引用,添加到EnhancedCachingManager中;

2. 每当Executor执行了update操作时,将此 update操作的StatementId传递给EnhancedCachingManager,让EnhancedCachingManager根据此update的StatementId的配置,去清空指定的查询语句所产生的缓存;



另一个构件:EnhancedCachingManager,它也是本插件的核心,它维护着以下几样东西:
1. 整个MyBatis的所有查询所产生的CacheKey集合(以statementId分类);

2. 所有的使用过了的查询的statementId 及其对应的Cache缓存对象的引用;

3. update类型的StatementId和查询StatementId集合的映射,用于当Update类型的语句执行时,根据此映射决定应该清空哪些查询语句产生的缓存;

如下图所示:




工作原理:

原理很简单,就是 当执行了某个update操作时,根据配置信息去清空指定的查询语句在Cache中所产生的缓存数据。
如何获取mybatis-enhanced-cache插件源码1.
源码和jar包2合一压缩包


2. github 地址,直接fork即可:


https://github.com/LuanLouis/mybatis-enhanced-cache

4. mybatis-enhanced-cache 插件的使用实例:

1. 下载 mybatis-enhanced-cache.rar压缩包,解压,将其内的mybatis-enhanced-cache-0.0.1-SNAPSHOT.jar添加到项目的classpath下;

2. 配置MyBatis配置文件如下:
  1. <plugins>

  2.      <plugin interceptor="org.luanlouis.mybatis.plugin.cache.EnhancedCachingExecutor">

  3.         <property name="dependency" value="dependencys.xml"/>

  4.         <property name="cacheEnabled" value="true"/>

  5.      </plugin>

  6. </plugins>
其中,<property name="dependency"> 中的value属性是 StatementId之间的依赖关系的配置文件路径。

3. 配置StatementId之间的依赖关系
  1. <?xml version="1.0" encoding="UTF-8"?>

  2. <dependencies>

  3.    <statements>

  4.        <statement id="com.louis.mybatis.dao.DepartmentsMapper.updateByPrimaryKey">

  5.           <observer id="com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments" />

  6.        </statement>

  7.    </statements>

  8. </dependencies>

<statement>节点配置的是更新语句的statementId,其内的子节点<observer> 配置的是当更新语句执行后,应当清空缓存的查询语句的StatementId。子节点<observer>可以有多个。

 如上的配置,则说明,如果"com.louis.mybatis.dao.DepartmentsMapper.updateByPrimaryKey" 更新语句执行后,由 “com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments” 语句所产生的放置在Cache缓存中的数据都都会被清空。

4. 配置DepartmentsMapper.xml 和EmployeesMapper.xml
  1. <?xml version="1.0" encoding="UTF-8" ?>

  2. <!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd" >

  3. <mapper namespace="com.louis.mybatis.dao.DepartmentsMapper" >

  4.    <cache></cache>

  5.   <resultMap id="BaseResultMap" type="com.louis.mybatis.model.Department" >

  6.     <id column="DEPARTMENT_ID" property="departmentId" jdbcType="DECIMAL" />

  7.     <result column="DEPARTMENT_NAME" property="departmentName" jdbcType="VARCHAR" />

  8.     <result column="MANAGER_ID" property="managerId" jdbcType="DECIMAL" />

  9.     <result column="LOCATION_ID" property="locationId" jdbcType="DECIMAL" />

  10.   </resultMap>

  11.   <sql id="Base_Column_List" >

  12.     DEPARTMENT_ID, DEPARTMENT_NAME, MANAGER_ID, LOCATION_ID

  13.   </sql>


  14.   <update id="updateByPrimaryKey" parameterType="com.louis.mybatis.model.Department" >

  15.     update HR.DEPARTMENTS

  16.     set DEPARTMENT_NAME = #{departmentName,jdbcType=VARCHAR},

  17.       MANAGER_ID = #{managerId,jdbcType=DECIMAL},

  18.       LOCATION_ID = #{locationId,jdbcType=DECIMAL}

  19.     where DEPARTMENT_ID = #{departmentId,jdbcType=DECIMAL}

  20.   </update>

  21.     <select id="selectByPrimaryKey" resultMap="BaseResultMap" parameterType="java.lang.Integer" >

  22.     select

  23.     <include refid="Base_Column_List" />

  24.     from HR.DEPARTMENTS

  25.     where DEPARTMENT_ID = #{departmentId,jdbcType=DECIMAL}

  26.   </select>

  27. </mapper>
  1. <?xml version="1.0" encoding="UTF-8"?>

  2. <!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">

  3. <mapper namespace="com.louis.mybatis.dao.EmployeesMapper">


  4.   <cache eviction="LRU" flushInterval="100000" size="10000"/>


  5.   <resultMap id="BaseResultMap" type="com.louis.mybatis.model.Employee">

  6.     <id column="EMPLOYEE_ID" jdbcType="DECIMAL" property="employeeId" />

  7.     <result column="FIRST_NAME" jdbcType="VARCHAR" property="firstName" />

  8.     <result column="LAST_NAME" jdbcType="VARCHAR" property="lastName" />

  9.     <result column="EMAIL" jdbcType="VARCHAR" property="email" />

  10.     <result column="PHONE_NUMBER" jdbcType="VARCHAR" property="phoneNumber" />

  11.     <result column="HIRE_DATE" jdbcType="DATE" property="hireDate" />

  12.     <result column="JOB_ID" jdbcType="VARCHAR" property="jobId" />

  13.     <result column="SALARY" jdbcType="DECIMAL" property="salary" />

  14.     <result column="COMMISSION_PCT" jdbcType="DECIMAL" property="commissionPct" />

  15.     <result column="MANAGER_ID" jdbcType="DECIMAL" property="managerId" />

  16.     <result column="DEPARTMENT_ID" jdbcType="DECIMAL" property="departmentId" />

  17.   </resultMap>


  18.   <sql id="Base_Column_List">

  19.     EMPLOYEE_ID, FIRST_NAME, LAST_NAME, EMAIL, PHONE_NUMBER, HIRE_DATE, JOB_ID, SALARY,

  20.     COMMISSION_PCT, MANAGER_ID, DEPARTMENT_ID

  21.   </sql>


  22.   <select id="selectWithDepartments" parameterType="java.lang.Integer" resultMap="BaseResultMap" useCache="true" >

  23.     select

  24.     *

  25.     from HR.EMPLOYEES t left join HR.DEPARTMENTS S ON T.DEPARTMENT_ID = S.DEPARTMENT_ID

  26.     where EMPLOYEE_ID = #{employeeId,jdbcType=DECIMAL}

  27.   </select>


  28. </mapper>

5. 测试代码:
  1. package com.louis.mybatis.test;


  2. import java.io.InputStream;

  3. import java.util.Date;

  4. import java.util.HashMap;

  5. import java.util.Iterator;

  6. import java.util.List;

  7. import java.util.Map;


  8. import org.apache.ibatis.io.Resources;

  9. import org.apache.ibatis.session.SqlSession;

  10. import org.apache.ibatis.session.SqlSessionFactory;

  11. import org.apache.ibatis.session.SqlSessionFactoryBuilder;

  12. import org.apache.log4j.Logger;


  13. import com.louis.mybatis.model.Department;

  14. import com.louis.mybatis.model.Employee;


  15. /**

  16.  * SqlSession 简单查询演示类

  17.  * @author louluan

  18.  */

  19. public class SelectDemo3 {


  20.     private static final Logger loger = Logger.getLogger(SelectDemo3.class);


  21.     public static void main(String[] args) throws Exception {

  22.         InputStream inputStream = Resources.getResourceAsStream("mybatisConfig.xml");

  23.         SqlSessionFactoryBuilder builder = new SqlSessionFactoryBuilder();

  24.         SqlSessionFactory factory = builder.build(inputStream);


  25.         SqlSession sqlSession = factory.openSession(true);

  26.         SqlSession sqlSession2 = factory.openSession(true);

  27.         //3.使用SqlSession查询

  28.         Map<String,Object> params = new HashMap<String,Object>();

  29.         params.put("employeeId",10);

  30.         //a.查询工资低于10000的员工

  31.         Date first = new Date();

  32.         //第一次查询

  33.         List<Employee> result = sqlSession.selectList("com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments",params);

  34.         sqlSession.commit();

  35.         checkCacheStatus(sqlSession);

  36.         params.put("employeeId"11);

  37.         result = sqlSession.selectList("com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments",params);

  38.         sqlSession.commit();

  39.         checkCacheStatus(sqlSession);

  40.         params.put("employeeId"12);

  41.         result = sqlSession.selectList("com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments",params);

  42.         sqlSession.commit();

  43.         checkCacheStatus(sqlSession);

  44.         params.put("employeeId"13);

  45.         result = sqlSession.selectList("com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments",params);

  46.         sqlSession.commit();

  47.         checkCacheStatus(sqlSession);

  48.         Department department = sqlSession.selectOne("com.louis.mybatis.dao.DepartmentsMapper.selectByPrimaryKey",10);

  49.         department.setDepartmentName("updated");

  50.         sqlSession2.update("com.louis.mybatis.dao.DepartmentsMapper.updateByPrimaryKey", department);

  51.         sqlSession.commit();

  52.         checkCacheStatus(sqlSession);

  53.     }



  54.     public static void checkCacheStatus(SqlSession sqlSession)

  55.     {

  56.         loger.info("------------Cache Status------------");

  57.         Iterator<String> iter = sqlSession.getConfiguration().getCacheNames().iterator();

  58.         while(iter.hasNext())

  59.         {

  60.             String it = iter.next();

  61.             loger.info(it+":"+sqlSession.getConfiguration().getCache(it).getSize());

  62.         }

  63.         loger.info("------------------------------------");


  64.     }


  65. }

结果输出:


结果分析:
从上述的结果可以看出,前四次执行了“com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments”语句,EmployeesMapper对应的Cache缓存中存储的结果缓存有1个增加到4个。

当执行了"com.louis.mybatis.dao.DepartmentsMapper.updateByPrimaryKey"后,EmployeeMapper对应的缓存Cache结果被清空了,即"com.louis.mybatis.dao.DepartmentsMapper.updateByPrimaryKey"更新语句引起了EmployeeMapper中的"com.louis.mybatis.dao.EmployeesMapper.selectWithDepartments"缓存的清空。
作者的话该插件的实现周期比较短,尚未经过性能方面的测试,如果果您对此插件有任何意见或者看法,可以留言一起交流和探讨。

该插件源码已经放到了Github上,可供大家自由修改,github地址:


https://github.com/LuanLouis/mybatis-enhanced-cache