Redis的模糊查询在生产环境出现严重的性能问题

数据库 其他数据库 Redis
Redis是一个高性能高效率的key-value存储的nosql数据库,由于数据是存储在内存中,因此访问速度非常快,由于项目涉及到数据库的查询非常多,而数据变大并不是非常频繁,所以在项目中采用Redis分担大部分MySQL的压力。

Redis是一个高性能高效率的key-value存储的nosql数据库,由于数据是存储在内存中,因此访问速度非常快,由于项目涉及到数据库的查询非常多,而数据变大并不是非常频繁,所以在项目中采用Redis分担大部分MySQL的压力。

在项目中实际使用我用的Redis提供的客户端连接工具包jedis,在项目中引入jedis.Jar即可。

  1. public static Set<String> searchLike(String like_key) { 
  2.    //线上环境模糊查询带来严重的性能问题,杜绝使用 
  3.    if(!Config.IS_BUG){ 
  4.         return null
  5.    } 
  6.    Jedis jedis = RedisApi.getJedis(); 
  7.    boolean is_ok = true
  8.    try { 
  9.         if (jedis == null) { 
  10.            return null
  11.         } 
  12.         return jedis.keys(like_key); 
  13.     } catch (Exception e) { 
  14.         // TODO: handle exception 
  15.         is_ok = false
  16.        return null
  17.     } finally { 
  18.         close(jedis, is_ok); 
  19.    } 

每当用户登录成功之后,都会生成一个cookie,分别存在客户端和Redis数据库,cookie的key由cookie值+用户ID组成:cookie字符串+"_"+用户ID,例如用户cookie为“d9fb0ea5955fcf0a2183c5076”,用户ID为 19092,那Redis中存储的key就是 d9fb0ea5955fcf0a2183c5076_19092,最终的key-vlaue就是: 

  1. {"d9fb0ea5955fcf0a2183c5076_19092":d9fb0ea5955fcf0a2183c5076} 

而在用户不断的登录成功,就不断地产生这样的记录,久而久之,会积累出非常多的无用的key,浪费redis的空间,也加重了redis查询的负担,因此想到使用Redis的模糊查询来清掉无用的cookie的key。

而Redis的客户端jedis操作是通过jedis.keys(keys)来完成的,keys可以使用通配符来匹配Redis中的key。

通配符说明:

*: 0到任意多个字符 eg: searchLike("test*")

?: 1个字符

比如现在需要清除某个用户所有的无用的cookie的key,,则可以写成“ *_19092 ”。

  1. String key_like = "*_19092"
  2. Set<String> keys = RedisApi.searchLike(key_like); 

这样就可以查出所有这个用户的keys,调用jedis提供的批量删除key的方法即可达到目的。

  1. String key_like = "*_19092"
  2. Set<String> keys = RedisApi.searchLike(key_like); 

到这里从需求到逻辑到编码一气呵成,简单测试没什么问题后,就发布到线上,由于平时网站的流量不算非常高,所以运行了几天也没发生什么异常,直到今天早上,拥有几十万粉丝的公众号发推文,推文的内容直接链接到网站,因此说瞬间流量是非常高。 


运行了大约十分钟之后,运营突然发疯的过来说网站访问非常慢,甚至出现错误码,心里一慌,赶紧上去看日志,我了个乖乖啊,简直是吓人,error日志想流水一样蹦出来,但五一不例外都是下面图示的错误:从Redis池中获取不大连接数,马上上redis服务器查看,发现CPU已经到达了100%以上。 


能让Redis的CPU到100%的,我想出了一下几个可能:

  1. 连接数过多,占用连接的时间过长
  2. 存储的值过大,存取均很占用CPU和内存
  3. 慢查询,事其它操作等待时间超时
  4. redis阻塞,某个操作把Redis阻塞,导致CPU飙升

由于项目上线时间已经很久,前三个可能基本都在平时查看Redis服务器性能的过程中排除掉,因此很大概率是第四个,突然想起前几天做的功能,有个模糊查询,该不是这个问题吧?我到网站输入“Redis 模糊查询 性能”,出来非常多关于redis模糊查询性能急剧下降的的情况,而且建议生产环境下禁用redis的模糊查询,于是我把模糊查询这块业务直接注释掉,重新上线,运行了半天,再没出现这个问题,因此可以断定就是模糊查询搞的鬼。

【替代方案】

有问题肯定是要解决的,既然模糊查询行不通的,那就得想别的办法达到目的,想到Redis有Set这这种存储结构,因此可以把用户的所有cookie key都放到一个用户专属的Set中,每次用户登录成功之后,都把之前Set里的cookie key清除,然后再把***的key放进去,这样就可以达到同样的目的了。 

  1. String setKey = "prefix_customer_cookie_list_10920"
  2.        String token="ss2ssssss"
  3.         //取出所有的用户的cookie key 
  4.         Set<String> list = RedisApi.getSet(setKey); 
  5.        if (list != null && list.size() > 0) { 
  6.             //删除用户所有的cookie key 
  7.             RedisApi.removeFromSet(setKey, list.toArray(new String[0])); 
  8.         } 
  9.        //把***的cookie key加入到Set中 
  10.         RedisApi.addSet(setKey, token); 

 

责任编辑:庞桂玉 来源: 数据库开发
相关推荐

2022-09-04 21:17:03

高可用Linkerd

2011-09-19 10:43:19

Nuget

2020-02-25 15:47:05

ElasticsearLucene地方

2021-12-03 07:27:29

EFCore生产环境

2015-10-28 16:20:10

短生命周期容器原生云计算

2020-12-25 09:00:00

Kubernetes容器开发

2009-06-25 16:45:31

Hibernate

2015-08-03 09:08:29

2020-09-14 07:35:40

Redis命令框架

2019-09-18 20:46:57

容器生产环境数据中心

2020-09-14 15:30:23

开发技能代码

2022-05-26 09:00:00

网站抓取Lightrun开发

2023-11-14 17:40:32

2012-02-07 09:56:06

无代理防毒产品

2009-04-24 10:49:57

Oracle性能优化错误

2011-05-20 10:05:13

Oracle性能优化

2010-09-08 15:19:46

生产环境性能测试风险

2010-10-29 16:41:12

Oracle模糊查询

2021-03-10 07:20:42

Redis命令数据

2020-11-23 07:56:08

Vue生产环境
点赞
收藏

51CTO技术栈公众号