List分批处理,相信很多人都遇到过这种场景,那么我们来举例看下。
比如:获取到一大批数据后,需要入库,那么该怎么处理呢?按本人经验,有如下几种情况:
1、循环入库
这种方式最为简单,但是效率最低,且消耗资源。
2、整批入库
这种方式,表面看没啥问题,效率比较高,但是实际却暗藏风险。你想,当这批数据巨大时,几千上万条,你如果一次入库,那么很可能会挂死。
3、分批入库
这种方式,个人感觉最为靠谱。将一大批数据按照一定的阈值,分隔成一个个小批次,然后再针对小批次整批入库,这种方式效率很高,另外如果是通过mybatis insert into * select方式入库,那么建议50一批,验证过效率最高。
示例代码:
public class SplitList {
public static List<List<Object>> splitListHandle(List<Object> dataList, int limit) {
List<List<Object>> splitedList = new ArrayList<List<Object>>();
if (CollectionUtils.isEmpty(dataList)) {
return null;
}
if (dataList.size() <= limit) {
splitedList.add(dataList);
return splitedList;
}
BigDecimal dataSize = new BigDecimal(dataList.size());
int count = dataSize.divide(new BigDecimal(limit), RoundingMode.CEILING).toBigInteger().intValue();
for (int i = 0; i < count; i++) {
if (i == count - 1) {
splitedList.add(dataList.subList(i * limit, dataSize.intValue()));
} else {
splitedList.add(dataList.subList(i * limit, (i + 1) * limit));
}
}
return splitedList;
}
public static void main(String[] args) {
List<Object> dataList = new ArrayList<Object>();
for (int i = 0; i < 31; i++) {
dataList.add(i + "");
}
List<List<Object>> rtnList = splitListHandle(dataList, 9);
System.out.println(JSONObject.toJSONString(rtnList));
}
}
结果: