RedisTemplate批量操作

2个月前发布

RedisTemplate批量操作

RedisTemplate批量添加操作教程，利用pipeline批量操作；multiSet()批量操作；for循环批量操作

一、使用pipeline的好处

了解redis的小伙伴都知道，redis是一个高性能的单线程的key-value数据库。它的执行过程为：

（1）发送命令－〉（2）命令排队－〉（3）命令执行－〉（4）返回结果

如果我们使用redis进行批量插入数据，正常情况下相当于将以上四个步骤批量执行N次。（1）和（4）称为Round Trip Time（RTT，往返时间）。在一条简单指令中，往往（1）（4）步骤之和大过于（2）（3）步骤之和，如何进行优化？Redis提供了pipeline管道机制，它能将一组Redis命令进行组装，通过一次RTT传输给Redis，并将这组Redis命令的执行结果按顺序返回给客户端。

优缺点总结：

1、性能对比：multiSet()>pipeline管道>普通for循环set
2、扩展性强，可以支持设置失效时间。multiSet()不支持失效时间的设置

二、批量操作的工具类

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.dao.DataAccessException;
import org.springframework.data.redis.connection.RedisConnection;
import org.springframework.data.redis.connection.RedisStringCommands;
import org.springframework.data.redis.core.RedisCallback;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.core.types.Expiration;
import org.springframework.data.redis.serializer.RedisSerializer;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.Map;

/**
 * @author: huangyibo
 * @Date: 2022/6/23 16:15
 * @Description:
 */

@Component
public class BatchRunRedisUtil {
    
    
    @Autowired
    private RedisTemplate<String, Object> stringRedisTemplate;
    

    /**
     * 批量添加
     * @param map
     */
    public void batchSet(Map<String, String> map) {
        stringRedisTemplate.opsForValue().multiSet(map);
    }
    

    /**
     * 批量添加 并且设置失效时间
     * @param map
     * @param seconds
     */
    public void batchSetOrExpire(Map<String, String> map, Long seconds) {
        RedisSerializer<String> serializer = stringRedisTemplate.getStringSerializer();
        stringRedisTemplate.executePipelined(new RedisCallback<String>() {
            @Override
            public String doInRedis(RedisConnection connection) throws DataAccessException {
                map.forEach((key, value) -> {
                    connection.set(serializer.serialize(key), serializer.serialize(value), Expiration.seconds(seconds), RedisStringCommands.SetOption.UPSERT);
                });
                return null;
            }
        }, serializer);
    }
    

    /**
     * 批量获取
     * @param list
     * @return
     */
    public List<Object> batchGet(List<String> list) {
        List<Object> objectList = stringRedisTemplate.opsForValue().multiGet(list);
        return objectList;
    }
    

    /**
     * Redis批量Delete
     * @param list
     */
    public void batchDelete(List<String> list) {
        stringRedisTemplate.delete(list);
    }

}

三、性能测试

通过for循环来向redis插入数据，通过pipeline插入数据，通过使用redisTemplate.opsForValue().multiSet(map)插入数据查看执行时间。

import com.demo.util.BatchRunRedisUtil;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.CommandLineRunner;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.data.redis.core.RedisTemplate;

import java.util.HashMap;
import java.util.Map;

@SpringBootApplication
public class DemoApplication implements CommandLineRunner {

    public static void main(String[] args) {
        SpringApplication.run(DemoApplication.class, args);
    }

    @Autowired
    private RedisTemplate<String, Object> stringRedisTemplate;

    @Autowired
    private BatchRunRedisUtil batchRunRedisUtil;

    @Override
    public void run(String... args) throws Exception {
        //for循环批量添加
        long startTime = System.currentTimeMillis();
        for (int i = 0; i < 100000; i++) {
            stringRedisTemplate.opsForValue().set("aaa" + i, "a", 60);
        }
        long endTime = System.currentTimeMillis();
        System.out.println("普通set消耗" + (endTime - startTime) + "毫秒");
        //利用pipeline批量操作
        long startTime2 = System.currentTimeMillis();
        Map map = new HashMap(100000);
        for (int i = 0; i < 100000; i++) {
            map.put("bbb" + i, "b");
        }
        batchRunRedisUtil.batchSetOrExpire(map, 60l);
        long endTime2 = System.currentTimeMillis();
        System.out.println("管道set消耗" + (endTime2 - startTime2) + "毫秒");
        //multiSet()批量操作
        long startTime3 = System.currentTimeMillis();
        Map map2 = new HashMap(100000);
        for (int i = 0; i < 100000; i++) {
            map2.put("ccc" + i, "b");
        }
        batchRunRedisUtil.batchSet(map2);
        long endTime3 = System.currentTimeMillis();
        System.out.println("批量set消耗" + (endTime3 - startTime3) + "毫秒");
    }

}

在本机分别执行了三次结果：

普通set消耗9010毫秒
管道set消耗1606毫秒
批量set消耗18毫秒

普通set消耗8228毫秒
管道set消耗1059毫秒
批量set消耗14毫秒

普通set消耗8365毫秒
管道set消耗1092毫秒
批量set消耗13毫秒

通过比较发现，逐条执行时间是pipeline执行平均时间的8倍！这是在本机测试的结果，理论上，客户端与服务端的网络延迟越大，性能体能越明显。

当然，pipeline性能提升虽然明显，但是每次管道里命令个数太多的话，也会造成客户端响应时间变久，网络传输阻塞。最好还是根据业务情况，将大的pipeline拆分成多个小的pipeline来执行。

如果不用设置失效时间的话最好使用redisTemplate.opsForValue().multiSet(map)方法来添加

参考：
https://blog.csdn.net/weixin_41677422/article/details/108626587

评分

欢迎为Ta评分