spring-data-redis中JedisCluster不支持pipelined问题解决
引言
了解Jedis的童鞋可能清楚,Jedis中JedisCluster
是不支持pipeline操作的,如果使用了redis集群,在spring-boot-starter-data-redis
中又正好用到的pipeline,那么会接收到Pipeline is currently not supported for JedisClusterConnection.
这样的报错。错误来自于org.springframework.data.redis.connection.jedis.JedisClusterConnection
:
/* * (non-Javadoc) * @see org.springframework.data.redis.connection.RedisConnection#openPipeline() */ @Override public void openPipeline() { throw new UnsupportedOperationException("Pipeline is currently not supported for JedisClusterConnection."); }
org.springframework.boot.autoconfigure.data.redis.RedisAutoConfiguration
会帮我们自动配置,无论你redis使用的是standalone、sentinel、cluster配置。这个源码很容易理解,读者可自行阅读,不理解的可以一起讨论。
Lettuce中的pipeline
spring boot 2.0开始,配置spring-boot-starter-data-redis
将不依赖Jedis,而是依赖Lettuce,在Lettuce中,redis cluster使用pipeline不会有问题。
知识储备
再往下看可能需要读者具备如下的能力:
- redis cluster hash slot
- JedisCluster & Jedis的关系
- pipeline和*mset等命令的区别
哈希槽(hash slot)
redis cluster一共有16384个桶(hash slot),用来装数据,建立集群的时候每个集群节点会负责一些slot的数据存储,比如我负责0-1000,你负责1001-2000,他负责2001-3000……
数据存储时,每个key在存入redis cluster前,会利用CRC16计算出一个值,这个值就是对应redis cluster的hash slot,就知道这个key会被放到哪个服务器上了。
参考文档:
JedisCluster & Jedis的关系
JedisCluster本质上是使用Jedis来和redis集群进行打交道的,具体过程是:
- 获取该key的slot值:
JedisClusterCRC16.getSlot(key)
- 从
JedisClusterConnectionHandler
实例中获取到该slot对应的Jedis
实例:Jedis connection = connectionHandler.getConnectionFromSlot(JedisClusterCRC16.getSlot(key));
- 利用connection操作。
pipeline和*mset等命令的区别
redis提供了mset,hmset之类的命令,或者说集合操作可以使用sadd key 1 2 3 4 5 6 ..... 10000000000这种一口气传一堆数据的命令。
有时候你甚至会发现*mset这种一口气操作一堆数据的速度更快。那么这种使用场景会有什么弊端呢?答案是:阻塞。
操作这一堆数据需要多久,就会阻塞多久。
Redis Cluster下pipeline使用的思考
由于JedisCluster中的所有操作本质上是使用Jedis,而Jedis是支持pipeline操作的,所以,要在redis cluster中使用pipeline是有可能的,只要你操作同一个键即可,准确的说,应该是你操作的键位于同一台服务器,更直白的,你操作的键是同一个Jedis实例。ok,如果你已经晕了,那你需要回看一下“知识储备”。
说说笔者的使用场景吧,我们是把csv文件的一批数据读到内存中,同一批数据是存储到同一个key中的,最后的操作会类似于:
set key member1 set key member2 set key member3 ... set key member100000
操作的是同一个key,可以利用JedisCluster获取到该key的Jedis实例,然后利用pipeline操作。
让spring-data-redis也支持pipeline的思路
提供一下代码思路。
RedisConnectionFactory factory = redisTemplate.getConnectionFactory(); RedisConnection redisConnection = factory.getConnection(); JedisClusterConnection jedisClusterConnection = (JedisClusterConnection) redisConnection; // 获取到原始到JedisCluster连接 JedisCluster jedisCluster = jedisClusterConnection.getNativeConnection(); // 通过key获取到具体的Jedis实例 // 计算hash slot,根据特定的slot可以获取到特定的Jedis实例 int slot = JedisClusterCRC16.getSlot(key); /** * 不建议这么使用,官方在2.10版本已经修复<a href="https://github.com/xetorthio/jedis/pull/1532">此问题</a><br> * 2.10版本中,官方会直接提供JedisCluster#getConnectionFromSlot */ Field field = ReflectionUtils.findField(BinaryJedisCluster.class, null, JedisClusterConnectionHandler.class); field.setAccessible(true); JedisSlotBasedConnectionHandler jedisClusterConnectionHandler = (JedisSlotBasedConnectionHandler) field.get(jedisCluster); Jedis jedis = jedisClusterConnectionHandler.getConnectionFromSlot(slot); // 接下来就是pipeline操作了 Pipeline pipeline = jedis.pipelined(); ... pipeline.syncAndReturnAll(); // jedis会自动将资源归还到连接池 jedis.close(); RedisConnectionUtils.releaseConnection(redisConnection, factory);
以上代码完全可以模仿spring-data-redis中RedisTemplate#executePipelined
方法写成一个通用的方法,供使用者调用。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Javascript千面之变幻莫测的this指向
相信很多前端人对“this”的指向是很懵逼的,因为this的指向总是变幻莫测,在不同的调用环境中,它的指向总是各不相同。 在面试中,this也是经常考的必考题之一,很多前端老鸟经常会在this这里掉坑。 接下来,看笔者来一层一层的揭开this指向的面纱。 1.事件调用环境中的this指向 <div class="box1"></div> <div class="box2"></div> <script> const box1 = document.querySelector('.box1') const box2 = document.querySelector('.box2') function event() { console.log(this) } // box1.onclick = event ------> <div class="box1"></div> // box2.onclick = event ------> <div class...
- 下一篇
脸书的 TransCoder 通过 AI 实现编程语言之间的转换,你是否感到饭碗将要不保?
脸书的研究人员宣布,他们开发了一种神经变译器(neural transcompiler)系统,可以将一种高级编程语言的代码转换成另一种,比如将 C++,Java 或 Python 转换成另一种。这个转换过程无需人为监督,可自动搜寻前一种语言中未标注的数据集模式,其效果大幅地好于基于规则的转换。 从当前的代码库转换成另一种先进的高效的语言,比如从 Java 或 C++ 转换成另一种语言,通常代价高昂,因为需要专家同时精通源语言和目标语言。之前,澳洲联邦银行就花费了7.5亿美元耗时五年将他们的平台从 COBOL 升级为 Java。 脸书的 TransCoder 系统可以在 C++,Java 和 Python 之间互翻,智能学习,无人监管。TransCoder 初始化时,进行跨语言的模型关联性分析,在不同语言中找到具有映射关系的代码片段,即相通的指令实现相同的表现。源语言的代码被随机的“遮住”,TransCoder 的任务就是基于上下文推断出被“遮住”的部分。去燥自动编码的过程训练系统生成有效的序列,即使输入的是噪点数据。同时,回译(back-translation)使得 TransCode...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- 设置Eclipse缩进为4个空格,增强代码规范
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- CentOS8安装Docker,最新的服务器搭配容器使用
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- CentOS7安装Docker,走上虚拟化容器引擎之路
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题