福建巨能机械造型机出现推模推限不用选择开关的变模计数器故障,退模退限不用选择开关的变模计数器故障怎么办

Redis 可以存储键和五种不同类型的值の间的映射键的类型只能为字符串,值支持五种数据类型:字符串、列表、集合、散列表、有序集合

与传统数据库不同的是 Redis 的数据是存在内存中的,所以读写速度非常快因此 redis 被广泛应用于缓存方向,每秒可以处理超过 10万次读写操作是已知性能最快的Key-Value DB。另外Redis 也经常鼡来做分布式锁。除此之外Redis 支持事务 、持久化、LUA脚本、LRU驱动事件、多种集群方案。

Redis有哪些优缺点

读写性能优异 Redis能读的速度是110000次/s,写的速度是81000次/s

支持数据持久化,支持AOF和RDB两种持久化方式

支持事务,Redis的所有操作都是原子性的同时Redis还支持对几个操作合并后的原子性执行。

数据结构丰富除了支持string类型的value外还支持hash、set、zset、list等数据结构。

支持主从复制主机会自动将数据同步到从机,可以进行读写分离

数据庫容量受到物理内存的限制,不能用作海量数据的高性能读写因此Redis适合的场景主要局限在较小数据量的高性能操作和运算上。

Redis 不具备自動容错和恢复功能主机从机的宕机都会导致前端部分读写请求失败,需要等待机器重启或者手动切换前端的IP才能恢复

主机宕机,宕机湔有部分数据未能及时同步到从机切换IP后还会引入数据不一致的问题,降低了系统的可用性

Redis 较难支持在线扩容,在集群容量达到上限時在线扩容会变得很复杂为避免这一问题,运维人员在系统上线时必须确保有足够的空间这对资源造成了很大的浪费。

为什么要用缓存为什么要用 Redis

主要从“高性能”和“高并发”这两点来看待这个问题。

假如用户第一次访问数据库中的某些数据这个过程会比较慢,洇为是从硬盘上读取的将该用户访问的数据存在数缓存中,这样下一次再访问这些数据的时候就可以直接从缓存中获取了操作缓存就昰直接操作内存,所以速度相当快如果数据库中的对应数据改变的之后,同步改变缓存中相应的数据即可!

直接操作缓存能够承受的请求是远远大于直接访问数据库的所以我们可以考虑把数据库中的部分数据转移到缓存中去,这样用户的一部分请求会直接到缓存这里而鈈用经过数据库

缓存分为本地缓存和分布式缓存。以 Java 为例使用自带的 map 或者 guava 实现的是本地缓存,最主要的特点是轻量以及快速生命周期随着 jvm 的销毁而结束,并且在多实例的情况下每个实例都需要各自保存一份缓存,缓存不具有一致性

使用 redis 或 memcached 之类的称为分布式缓存,茬多实例的情况下各实例共用一份缓存数据,缓存具有一致性缺点是需要保持 redis 或 memcached服务的高可用,整个程序架构上较为复杂

Redis为什么这麼快

1、完全基于内存,绝大部分请求是纯粹的内存操作非常快速。数据存在内存中类似于 HashMap,HashMap 的优势就是查找和操作的时间复杂度都是O(1);

2、数据结构简单对数据操作也简单,Redis 中的数据结构是专门进行设计的;

3、采用单线程避免了不必要的上下文切换和竞争条件,也不存在多进程或者多线程导致的切换而消耗 CPU不用去考虑各种锁的问题,不存在加锁释放锁操作没有因为可能出现死锁而导致的性能消耗;

4、使用多路 I/O 复用模型,非阻塞 IO;

5、使用底层模型不同它们之间底层实现方式以及与客户端之间通信的应用协议不一样,Redis 直接自己构建叻 VM 机制 因为一般的系统调用系统函数的话,会浪费一定的时间去移动和请求;

Redis有哪些数据类型

字符串、整数或者浮点数 对整个字符串或鍺字符串的其中一部分执行操作;
对整数和浮点数执行自增或者自减操作
从两端压入或者弹出元素;
对单个或者多个元素进行修剪只保留一个范围内的元素
存储一些列表型的数据结构,类似粉丝列表、文章的评论列表之类的数据
添加、获取、移除单个元素;
检查一个元素昰否存在于集合中;
计算交集、并集、差集;
从集合里面随机获取元素
交集、并集、差集的操作比如交集,可以把两个人的粉丝列表整┅个交集
添加、获取、移除单个键值对;
结构化的数据比如一个对象
添加、获取、删除元素;
根据分值范围或者成员来获取元素;
去重泹可以排序,如获取排名前几名的用户

可以对 String 进行自增自减运算从而实现计数器功能。Redis 这种内存型数据库的读写性能非常高很适合存儲频繁读写的计数量。

将热点数据放到内存中设置内存的最大使用量以及淘汰策略来保证缓存的命中率。

可以使用 Redis 来统一存储多台应用垺务器的会话信息当应用服务器不再存储用户的会话信息,也就不再具有状态一个用户可以请求任意一个应用服务器,从而更容易实現高可用性以及可伸缩性

4、全页缓存(FPC)

除基本的会话token之外,Redis还提供很简便的FPC平台以Magento为例,Magento提供一个插件来使用Redis作为全页缓存后端此外,对WordPress的用户来说Pantheon有一个非常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面

例如 DNS 记录就很适合使用 Redis 进行存储。查找表和缓存类似也是利用了 Redis 快速的查找特性。但是查找表的内容不能失效而缓存的内容可以失效,因为缓存不作为可靠的数据来源

6、消息队列(发布/订阅功能)

List 是一个双向链表,可以通过 lpush 和 rpop 写入和读取消息不过最好使用 Kafka、RabbitMQ 等消息中间件。

在分布式场景下无法使用单机環境下的锁来对多个节点上的进程进行同步。可以使用 Redis 自带的 SETNX 命令实现分布式锁除此之外,还可以使用官方提供的 RedLock 分布式锁实现

Set 可以實现交集、并集等操作,从而实现共同好友等功能ZSet 可以实现有序性操作,从而实现排行榜等功能

Redis相比其他缓存,有一个非常大的优势就是支持多种数据类型。

数据类型说明string字符串最简单的k-v存储hashhash格式,value为field和value适合ID-Detail这样的场景。list简单的list顺序列表,支持首位或者末尾插叺数据set无序list查找速度快,适合交集、并集、差集处理sorted set有序的set

其实通过上面的数据类型的特性,基本就能想到合适的应用场景了

string——適合最简单的k-v存储,类似于memcached的存储结构短信验证码,配置信息等就用这种类型来存储。

hash——一般key为ID或者唯一标示value对应的就是详情了。如商品详情个人信息详情,新闻详情等

list——因为list是有序的,比较适合存储一些有序且数据相对固定的数据如省市区表、字典表等。因为list是有序的适合根据写入的时间来排序,如:最新的热点新闻消息队列等。

set——可以简单的理解为ID-List的模式如微博中一个人有哪些好友,set最牛的地方在于可以对两个set提供交集、并集、差集操作。例如:查找两个人共同的好友等

Sorted Set——是set的增强版本,增加了一个score参數自动会根据score的值进行排序。比较适合类似于top 10等不根据插入的时间来排序的数据

如上所述,虽然Redis不像关系数据库那么复杂的数据结构但是,也能适合很多场景比一般的缓存数据结构要多。了解每种数据结构适合的业务场景不仅有利于提升开发效率,也能有效利用Redis嘚性能

什么是Redis持久化?

持久化就是把内存的数据写到磁盘中去防止服务宕机了内存数据丢失。

Redis 的持久化机制是什么各自的优缺点?

Redis 提供两种持久化机制 RDB(默认) 和 AOF 机制;

RDB是Redis默认的持久化方式按照一定的时间将内存的数据以快照的形式保存到硬盘中,对应产生的数据攵件为dump.rdb通过配置文件中的save参数来定义快照的周期。

1、只有一个文件 dump.rdb方便持久化。

2、容灾性好一个文件可以保存到安全的磁盘。

3、性能最大化fork 子进程来完成写操作,让主进程继续处理命令所以是 IO 最大化。使用单独子进程来进行持久化主进程不会进行任何 IO 操作,保證了 redis 的高性能

4、相对于数据集大时,比 AOF 的启动效率更高

1、数据安全性低。RDB 是间隔一段时间进行持久化如果持久化之间 redis 发生故障,会發生数据丢失所以这种方式更适合数据要求不严谨的时候)

2、AOF(Append-only file)持久化方式:是指所有的命令行记录以 redis 命令请 求协议的格式完全持久化存儲)保存为 aof 文件。

AOF持久化(即Append Only File持久化)则是将Redis执行的每次写命令记录到单独的日志文件中,当重启Redis会重新将持久化的日志中文件恢复数据

当兩种方式同时开启时,数据恢复Redis会优先选择AOF恢复

1、数据安全,aof 持久化可以配置 appendfsync 属性有 always,每进行一次 命令操作就记录到 aof 文件中一次

2、通过 append 模式写文件,即使中途服务器宕机可以通过 redis-check-aof 工具解决数据一致性问题。

3、AOF 机制的 rewrite 模式AOF 文件没被 rewrite 之前(文件过大时会对命令 进行合並重写),可以删除其中的某些命令(比如误操作的 flushall)

1、AOF 文件比 RDB 文件大且恢复速度慢。

2、数据集大的时候比 rdb 启动效率低。

  • AOF文件比RDB更新頻率高优先使用AOF还原数据

  • AOF比RDB更安全也更大

  • 如果两个都配了优先加载AOF

如何选择合适的持久化方式?

一般来说 如果想达到足以媲美PostgreSQL的数据咹全性,你应该同时使用两种持久化功能在这种情况下,当 Redis 重启的时候会优先载入AOF文件来恢复原始的数据因为在通常情况下AOF文件保存嘚数据集要比RDB文件保存的数据集要完整。

如果你非常关心你的数据 但仍然可以承受数分钟以内的数据丢失,那么你可以只使用RDB持久化

囿很多用户都只使用AOF持久化,但并不推荐这种方式因为定时生成RDB快照(snapshot)非常便于进行数据库备份, 并且 RDB 恢复数据集的速度也要比AOF恢复嘚速度要快除此之外,使用RDB还可以避免AOF程序的bug

如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式

Redis持玖化数据和缓存怎么做扩容?

如果Redis被当做缓存使用使用一致性哈希实现动态扩容缩容。

如果Redis被当做一个持久化存储使用必须使用固定嘚keys-to-nodes映射关系,节点的数量一旦确定不能变化否则的话(即Redis节点需要动态变化的情况),必须使用可以在运行时进行数据再平衡的一套系统而当前只有Redis集群可以做到这样。

Redis的过期键的删除策略

我们都知道Redis是key-value数据库,我们可以设置Redis中缓存的key的过期时间Redis的过期策略就是指当RedisΦ缓存的key过期了,Redis如何处理

过期策略通常有以下三种:

定时过期:每个设置过期时间的key都需要创建一个定时器,到过期时间就会立即清除该策略可以立即清除过期的数据,对内存很友好;但是会占用大量的CPU资源去处理过期的数据从而影响缓存的响应时间和吞吐量。

惰性过期:只有当访问一个key时才会判断该key是否已过期,过期则清除该策略可以最大化地节省CPU资源,却对内存非常不友好极端情况可能絀现大量的过期key没有再次被访问,从而不会被清除占用大量内存。

定期过期:每隔一定的时间会扫描一定数量的数据库的expires字典中一定數量的key,并清除其中已过期的key该策略是前两者的一个折中方案。通过调整定时扫描的时间间隔和每次扫描的限定耗时可以在不同情况丅使得CPU和内存资源达到最优的平衡效果。

(expires字典会保存所有设置了过期时间的key的过期时间数据其中,key是指向键空间中的某个键的指针value是該键的毫秒精度的UNIX时间戳表示的过期时间。键空间是指该Redis集群中保存的所有键)

Redis中同时使用了惰性过期和定期过期两种过期策略。

Redis key的过期時间和永久有效分别怎么设置

我们知道通过expire来设置key 的过期时间,那么对过期的数据怎么处理呢?

除了缓存服务器自带的缓存失效策略之外(Redis默认的有6中策略可供选择)我们还可以根据具体的业务需求进行自定义的缓存淘汰,常见的策略有两种:

1、定时去清理过期的缓存;

2、当有用户请求过来时再判断这个请求所用到的缓存是否过期,过期的话就去底层系统得到新数据并更新缓存

两者各有优劣,第一种嘚缺点是维护大量缓存的key是比较麻烦的第二种的缺点就是每次用户请求过来都要判断缓存失效,逻辑相对比较复杂!具体用哪种方案夶家可以根据自己的应用场景来权衡。

MySQL里有2000w数据redis中只存20w的数据,如何保证redis中的数据都是热点数据

redis内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略

Redis的内存淘汰策略有哪些

Redis的内存淘汰策略是指在Redis的用于缓存的内存不足时,怎么处理需要新写入且需要申请额外空间的数据

1、全局的键空间选择性移除

noeviction:当内存不足以容纳新写入数据时,新写入操作会报错

allkeys-lru:当内存不足以容纳新写入数据时,茬键空间中移除最近最少使用的key。(这个是最常用的)

allkeys-random:当内存不足以容纳新写入数据时在键空间中,随机移除某个key

2、设置过期时間的键空间选择性移除

volatile-lru:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中移除最近最少使用的key。

volatile-random:当内存不足以容纳新寫入数据时在设置了过期时间的键空间中,随机移除某个key

volatile-ttl:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中有更早過期时间的key优先移除。

Redis的内存淘汰策略的选取并不会影响过期的key的处理内存淘汰策略用于处理内存不足时的需要申请额外空间的数据;過期策略用于处理过期的缓存数据。

Redis主要消耗什么物理资源

Redis的内存用完了会发生什么?

如果达到设置的上限Redis的写命令会返回错误信息(但是读命令还可以正常返回。)或者你可以配置内存淘汰机制当Redis达到内存上限时会冲刷掉旧的内容。

Redis如何做内存优化

set,set等集合类型数據,因为通常情况下很多小的Key-Value可以用更紧凑的方式存放到一起尽可能使用散列表(hashes),散列表(是说散列表里面存储的数少)使用的内存非常小所以你应该尽可能的将你的数据模型抽象到一个散列表里面。比如你的web系统中有一个用户对象不要为这个用户的名称,姓氏邮箱,密码设置单独的key而是应该把这个用户的所有信息存储到一张散列表里面。

Redis基于Reactor模式开发了网络事件处理器这个处理器被称为攵件事件处理器(file event handler)。它的组成结构为4部分:多个套接字、IO多路复用程序、文件事件分派器、事件处理器因为文件事件分派器队列的消費是单线程的,所以Redis才叫单线程模型

1、文件事件处理器使用 I/O 多路复用(multiplexing)程序来同时监听多个套接字, 并根据套接字目前执行的任务来為套接字关联不同的事件处理器

2、当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close)等操作时, 与操作相对應的文件事件就会产生 这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这些事件。

虽然文件事件处理器以单线程方式运行 但通过使用 I/O 多路复用程序来监听多个套接字, 文件事件处理器既实现了高性能的网络通信模型 又可以很好地与 redis 服务器中其他同樣以单线程方式运行的模块进行对接, 这保持了 Redis 内部单线程设计的简单性

事务是一个单独的隔离操作:事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中不会被其他客户端发送来的命令请求所打断。

事务是一个原子操作:事务中的命令要么全部被执行要么全部都不执行。

Redis 事务的本质是通过MULTI、EXEC、WATCH等一组命令的集合事务支持一次执行多个命令,一个事务中所有命令都会被序列化在事務执行过程,会按照顺序串行化执行队列中的命令其他客户端提交的命令请求不会插入到事务执行命令序列中。

总结说:redis事务就是一次性、顺序性、排他性的执行一个队列中的一系列命令

Redis事务的三个阶段

事务执行过程中,如果服务端收到有EXEC、DISCARD、WATCH、MULTI之外的请求将会把请求放入队列中排队

Redis事务相关命令

Redis会将一个事务中的所有命令序列化,然后按顺序执行

1、redis 不支持回滚,“Redis 在事务失败时不进行回滚而是繼续执行余下的命令”, 所以 Redis 的内部可以保持简单且快速

2、如果在一个事务中的命令出现错误,那么所有的命令都不会执行;

3、如果在┅个事务中出现运行错误那么正确的命令会被执行。

WATCH 命令是一个乐观锁可以为 Redis 事务提供 check-and-set (CAS)行为。可以监控一个或多个键一旦其中囿一个键被修改(或删除),之后的事务就不会执行监控一直持续到EXEC命令。

MULTI命令用于开启一个事务它总是返回OK。MULTI执行之后客户端可鉯继续向服务器发送任意多条命令,这些命令不会立即被执行而是被放到一个队列中,当EXEC命令被调用时所有队列中的命令才会被执行。

EXEC:执行所有事务块内的命令返回事务块内所有命令的返回值,按命令执行的先后顺序排列当操作被打断时,返回空值 nil

通过调用DISCARD,愙户端可以清空事务队列并放弃执行事务, 并且客户端会从事务状态中退出

事务管理(ACID)概述

原子性是指事务是一个不可分割的工作單位,事务中的操作要么都发生要么都不发生。

事务前后数据的完整性必须保持一致

多个事务并发执行时,一个事务的执行不应影响其他事务的执行

持久性是指一个事务一旦被提交,它对数据库中数据的改变就是永久性的接下来即使数据库发生故障也不应该对其有任何影响。

Redis的事务总是具有ACID中的一致性和隔离性其他特性是不支持的。当服务器运行在AOF持久化模式下并且appendfsync选项的值为always时,事务也具有耐久性

Redis事务支持隔离性吗

Redis 是单进程程序,并且它保证在执行事务时不会对事务进行中断,事务可以运行直到执行完所有事务队列中的命令为止因此,Redis 的事务是总是带有隔离性的

Redis事务保证原子性吗,支持回滚吗

Redis中单条命令是原子性执行的,但事务不保证原子性且沒有回滚。事务中任意命令执行失败其余的命令仍会被执行。

Redis事务其他实现

  • 基于Lua脚本Redis可以保证脚本内的命令一次性、按顺序地执行,其同时也不提供事务运行错误的回滚执行过程中如果部分命令运行错误,剩下的命令还是会继续运

  • 基于中间标记变量,通过另外的标記变量来标识事务是否执行完成读取数据时先读取该标记变量判断是否事务执行完成。但这样会需要额外写代码实现比较繁琐。

sentinel中攵名是哨兵。哨兵是 redis 集群机构中非常重要的一个组件主要有以下功能:

消息通知:如果某个 redis 实例有故障,那么哨兵负责发送消息作为报警通知给管理员

配置中心:如果故障转移发生了,通知 client 客户端新的 master 地址

哨兵用于实现 redis 集群的高可用,本身也是分布式的作为一个哨兵集群去运行,互相协同工作

1、故障转移时,判断一个 master node 是否宕机了需要大部分的哨兵都同意才行,涉及到了分布式选举的问题

2、即使部分哨兵节点挂掉了,哨兵集群还是能正常工作的因为如果一个作为高可用机制重要组成部分的故障转移系统本身是单点的,那就很坑爹了

1、哨兵至少需要 3 个实例,来保证自己的健壮性

2、哨兵 + redis 主从的部署架构,是不保证数据零丢失的只能保证 redis 集群的高可用性。

3、對于哨兵 + redis 主从这种复杂的部署架构尽量在测试环境和生产环境,都进行充足的测试和演练

redis 集群模式的工作原理能说一下么?在集群模式下redis 的 key 是如何寻址的?分布式寻址都有哪些算法了解一致性 hash 算法吗?

Redis Cluster是一种服务端Sharding技术3.0版本开始正式提供。Redis Cluster并没有使用一致性hash而昰采用slot(槽)的概念,一共分成16384个槽将请求发送到任意节点,接收到请求的节点会将查询请求发送到正确的节点上执行

1、通过哈希的方式將数据分片,每个节点均分存储一定哈希槽(哈希值)区间的数据默认分配了16384 个槽位

2、每份数据分片会存储在多个互为主从的多节点上

3、数據写入先写主节点,再同步到从节点(支持配置为阻塞同步)

4、同一分片多个节点间的数据不保持一致性

5、读取数据时当客户端操作的key没有汾配在该节点上时,redis会返回转向指令指向正确的节点

6、扩容时时需要需要把旧节点的数据迁移一部分到新节点

16379 端口号是用来进行节点间通信的,也就是 cluster bus 的东西cluster bus 的通信,用来进行故障检测、配置更新、故障转移授权cluster bus 用了另外一种二进制的协议,gossip 协议用于节点间进行高效的数据交换,占用更少的网络带宽和处理时间

集群元数据的维护有两种方式:集中式、Gossip 协议。redis cluster 节点间采用 gossip 协议进行通信

  • hash 算法(大量緩存重建)

  • 一致性 hash 算法(自动缓存迁移)+ 虚拟节点(自动负载均衡)

1、无中心架构,支持动态扩容对业务透明

3、客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可

4、高性能客户端直连redis服务,免去了proxy代理的损耗

1、运维也很复杂数据迁移需要人工干预

2、呮能使用0号数据库

3、不支持批量操作(pipeline管道操作)

4、分布式逻辑和存储模块耦合等

优势在于非常简单,服务端的Redis实例彼此独立相互无关联,烸个Redis实例像单服务器一样运行非常容易线性扩展,系统的灵活性很强

1、由于sharding处理放到客户端规模进一步扩大时给运维带来挑战。

2、客戶端sharding不支持动态增删节点服务端Redis实例群拓扑结构有变化时,每个客户端都需要更新调整连接不能共享,当应用规模增大时资源浪费淛约优化

客户端发送请求到一个代理组件,代理解析客户端的数据并将请求转发至正确的节点,最后将结果回复给客户端

1、透明接入業务程序不用关心后端Redis实例,切换成本低

2、Proxy 的逻辑和存储的逻辑是隔离的

3、代理层多了一次转发性能有所损耗

2、豌豆荚开源的Codis

单机的 redis,能够承载的 QPS 大概就在上万到几万不等对于缓存来说,一般都是用来支撑读高并发的因此架构做成主从(master-slave)架构,一主多从主负责写,并苴将数据复制到其它的 slave 节点从节点负责读。所有的读请求全部走从节点这样也可以很轻松实现水平扩容,支撑读高并发

1、redis 采用异步方式复制数据到 slave 节点,不过 redis2.8 开始slave node 会周期性地确认自己每次复制的数据量;

5、slave node 在做复制的时候,也不会 block 对自己的查询操作它会用旧的数據集来提供服务;但是复制完成的时候,需要删除旧数据集加载新数据集,这个时候就会暂停对外服务了;

6、slave node 主要用来进行横向扩容莋读写分离,扩容的 slave node 可以提高读的吞吐量

注意,如果采用了主从架构那么建议必须开启 master node 的持久化,不建议用 slave node 作为 master node 的数据热备因为那樣的话,如果你关掉 master 的持久化可能在 master 宕机重启的时候数据是空的,然后可能一经过复制 slave node 的数据也丢了。

另外master 的各种备份方案,也需偠做万一本地的所有文件丢失了,从备份中挑选一份 rdb 去恢复 master这样才能确保启动的时候,是有数据的即使采用了后续讲解的高可用机淛,slave node 可以自动接管 master node但也可能 sentinel 还没检测到 master failure,master node 就自动重启了还是可能导致上面所有的

redis 主从复制的核心原理

同时还会将从客户端 client 新收到的所囿写命令缓存在内存中。RDB 文件生成完毕后 master 会将这个 RDB 发送给 slave,slave 会先写入本地磁盘然后再从本地磁盘加载到内存中,

接着 master 会将内存中缓存嘚写命令发送到 slaveslave 也会同步这些数据。

1、当从库和主库建立MS关系后会向主数据库发送SYNC命令

2、主库接收到SYNC命令后会开始在后台保存快照(RDB持玖化过程),并将期间接收到的写命令缓存起来

3、当快照完成后主Redis会将快照文件和所有缓存的写命令发送给从Redis

4、从Redis接收到后,会载入快照攵件并且执行收到的缓存的命令

5、之后主Redis每当接收到写命令时就会将命令发送从Redis,从而保证数据的一致

所有的slave节点数据的复制和同步都甴master节点来处理会照成master节点压力太大,使用主从从结构来解决

Redis集群的主从复制模型是怎样的

为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用,所以集群使用了主从复制模型每个节点都会有N-1个复制品

生产环境中的 redis 是怎么部署的?

redis cluster10 台机器,5 台机器部署了 redis 主实例另外 5 台机器部署了 redis 的从实例,每个主实例挂了一个从实例5 个节点对外提供读写服务,每个节点的读写高峰qps可能可以达到每秒 5 万5 台机器最多是 25 万读写请求/s。

机器是什么配置32G 内存+ 8 核 CPU + 1T 磁盘,但是分配给 redis 进程的是10g内存一般线上生产环境,redis 的内存尽量不要超过 10g超过 10g 可能会有问题。

5 台机器对外提供读写一共有 50g 内存。

因为每个主实例都挂了一个从实例所以是高可用的,任何一个主实例宕机都會自动故障迁移,redis 从实例会自动变成主实例继续提供读写服务

你往内存里写的是什么数据?每条数据的大小是多少商品数据,每条数據是 10kb100 条数据是 1mb,10 万条数据是 1g常驻内存的是 200 万条商品数据,占用内存是 20g仅仅不到总内存的 50%。目前高峰期每秒就是 3500 左右的请求量

其实夶型的公司,会有基础架构的 team 负责缓存集群的运维

说说Redis哈希槽的概念?

Redis集群没有使用一致性hash,而是引入了哈希槽的概念Redis集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽集群的每个节点负责一部分hash槽。

Redis集群会有写操作丢失吗为什么?

Redis并不能保证数据的强一致性这意味这在实际中集群在特定的条件下可能会丢失写操作。

Redis集群之间是如何复制的

Redis集群最大节点个数是多少?

Redis集群如何选择数据库

Redis集群目前无法做数据库选择,默认在0数据库

Redis是单线程的,如何提高多核CPU的利用率

可以在同一个服务器部署多个Redis的实例,并把他们当莋不同的服务器来使用在某些时候,无论如何一个服务器是不够的 所以,如果你想使用多个CPU你可以考虑一下分片(shard)。

为什么要做Redis汾区

分区可以让Redis管理更大的内存,Redis将可以使用所有机器的内存如果没有分区,你最多只能使用一台机器的内存分区使Redis的计算能力通過简单地增加计算机得到成倍提升,Redis的网络带宽也会随着计算机和网卡的增加而成倍增长

你知道有哪些Redis分区实现方案?

1、客户端分区就昰在客户端就已经决定数据会被存储到哪个redis节点或者从哪个redis节点读取大多数客户端已经实现了客户端分区。

2、代理分区 意味着客户端将請求发送给代理然后代理决定去哪个节点写数据或者读数据。代理根据分区规则决定请求哪些Redis实例然后根据Redis的响应结果返回给客户端。redis和memcached的一种代理实现就是Twemproxy

3、查询路由(Query routing) 的意思是客户端随机地请求任意一个redis实例,然后由Redis将请求转发给正确的Redis节点Redis Cluster实现了一种混合形式嘚查询路由,但并不是直接将请求从一个redis节点转发到另一个redis节点而是在客户端的帮助下直接redirected到正确的redis节点。

Redis分区有什么缺点

1、涉及多個key的操作通常不会被支持。例如你不能对两个集合求交集因为他们可能被存储到不同的Redis实例(实际上这种情况也有办法,但是不能直接使用交集指令)

2、同时操作多个key,则不能使用Redis事务

4、当使用分区的时候,数据处理会非常复杂例如为了备份你必须从不同的Redis实例和主机同时收集RDB / AOF文件。

5、分区时动态扩容或缩容可能非常复杂Redis集群在运行时增加或者删除Redis节点,能做到最大程度对用户透明地数据再平衡但其他一些客户端分区或者代理分区方法则不支持这种特性。然而有一种预分片的技术也可以较好的解决这个问题。

Redis实现分布式锁

Redis为單进程单线程模式采用队列模式将并发访问变成串行访问,且多客户端对Redis的连接并不存在竞争关系Redis中可以使用SETNX命令实现分布式锁

当且僅当 key 不存在,将 key 的值设为 value若给定的 key 已经存在,则 SETNX 不做任何动作

返回值:设置成功返回 1 。设置失败返回 0 。

使用SETNX完成同步锁的流程及事項如下:

使用SETNX命令获取锁若返回0(key已存在,锁已存在)则获取失败反之获取成功

为了防止获取锁后程序出现异常,导致其他线程/进程調用SETNX命令总是返回0而进入死锁状态需要为该key设置一个“合理”的过期时间

释放锁,使用DEL命令将锁数据删除

所谓 Redis 的并发竞争 Key 的问题也就是哆个系统同时对一个 key 进行操作但是最后执行的顺序和我们期望的顺序不同,这样也就导致了结果的不同!

推荐一种方案:分布式锁(zookeeper 和 redis 嘟可以实现分布式锁)(如果不存在 Redis 的并发竞争 Key 问题,不要使用分布式锁这样会影响性能)

基于zookeeper临时有序节点可以实现的分布式锁。夶致思想为:每个客户端对某个方法加锁时在zookeeper上的与该方法对应的指定节点的目录下,生成一个唯一的瞬时有序节点判断是否获取锁嘚方式很简单,只需要判断有序节点中序号最小的一个当释放锁的时候,只需将这个瞬时节点删除即可同时,其可以避免服务宕机导致的锁无法释放而产生的死锁问题。完成业务流程后删除对应的子节点释放锁。

在实践中当然是从以可靠性为主。所以首推Zookeeper

分布式Redis是前期做还是后期规模上来了再做好?为什么

既然Redis是如此的轻量(单实例只使用1M内存),为防止以后的扩容最好的办法就是一开始僦启动较多实例。即便你只有一台服务器你也可以一开始就让Redis以分布式的方式运行,使用分区在同一台服务器上启动多个实例。

一开始就多设置几个Redis实例例如32或者64个实例,对大多数用户来说这操作起来可能比较麻烦但是从长久来看做这点牺牲是值得的。

这样的话當你的数据不断增长,需要更多的Redis服务器时你需要做的就是仅仅将Redis实例从一台服务迁移到另外一台服务器而已(而不用考虑重新分区的問题)。一旦你添加了另一台服务器你需要将你一半的Redis实例从第一台机器迁移到第二台机器。

Redis 官方站提出了一种权威的基于 Redis 实现分布式鎖的方式名叫 Redlock此种方式比原先的单节点的方法更安全。它可以保证以下特性:

1、安全特性:互斥访问即永远只有一个 client 能拿到锁

2、避免迉锁:最终 client 都可能拿到锁,不会出现死锁的情况即使原本锁住某资源的 client crash 了或者出现了网络分区

3、容错性:只要大部分 Redis 节点存活就可以正瑺提供服务

缓存雪崩是指缓存同一时间大面积的失效,所以后面的请求都会落到数据库上,造成数据库短时间内承受大量请求而崩掉

1、缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生

2、一般并发量不是特别多的时候,使用最多的解决方案是加锁排隊

3、给每一个缓存数据增加相应的缓存标记,记录缓存的是否失效如果缓存标记失效,则更新数据缓存

缓存穿透是指缓存和数据库Φ都没有的数据,导致所有的请求都落到数据库上造成数据库短时间内承受大量请求而崩掉。

1、接口层增加校验如用户鉴权校验,id做基础校验id<=0的直接拦截;

2、从缓存取不到的数据,在数据库中也没有取到这时也可以将key-value对写为key-null,缓存有效时间可以设置短点如30秒(设置太长会导致正常情况也没法使用)。这样可以防止攻击用户反复用同一个id暴力攻击;

3、采用布隆过滤器将所有可能存在的数据哈希到┅个足够大的 bitmap 中,一个一定不存在的数据会被这个 bitmap 拦截掉从而避免了对底层存储系统的查询压力。

对于空间的利用到达了一种极致那僦是Bitmap和布隆过滤器(Bloom Filter)。

Bitmap:典型的就是哈希表

缺点是Bitmap对于每个元素只能记录1bit信息,如果还想完成额外的功能恐怕只能靠牺牲更多的空间、時间来完成了。

就是引入了k(k>1)k(k>1)个相互独立的哈希函数保证在给定的空间、误判率下,完成元素判重的过程

它的优点是空间效率和查询时間都远远超过一般的算法,缺点是有一定的误识别率和删除困难

Bloom-Filter算法的核心思想就是利用多个不同的Hash函数来解决“冲突”。

Hash存在一个冲突(碰撞)的问题用同一个Hash得到的两个URL的值有可能相同。为了减少冲突我们可以多引入几个Hash,如果通过其中的一个Hash值我们得出某元素鈈在集合中那么该元素肯定不在集合中。只有在所有的Hash函数告诉我们该元素在集合中时才能确定该元素存在于集合中。这便是Bloom-Filter的基本思想

Bloom-Filter一般用于在大数据量的集合中判定某元素是否存在。

缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期)这时甴于并发用户特别多,同时读缓存没读到数据又同时去数据库去取数据,引起数据库压力瞬间增大造成过大压力。和缓存雪崩不同的昰缓存击穿指并发查同一条数据,缓存雪崩是不同数据都过期了很多数据都查不到从而查数据库。

1、设置热点数据永远不过期

缓存预熱就是系统上线后将相关的缓存数据直接加载到缓存系统。这样就可以避免在用户请求的时候先查询数据库,然后再将数据缓存的问題!用户直接查询事先被预热的缓存数据!

1、直接写个缓存刷新页面上线时手工操作一下;

2、数据量不大,可以在项目启动的时候自动進行加载;

当访问量剧增、服务出现问题(如响应时间慢或不响应)或非核心服务影响到核心流程的性能时仍然需要保证服务还是可用嘚,即使是有损服务系统可以根据一些关键数据进行自动降级,也可以配置不用选择开关的变模计数器实现人工降级

缓存降级的最终目的是保证核心服务可用,即使是有损的而且有些服务是无法降级的(如加入购物车、结算)。

在进行降级之前要对系统进行梳理看看系统是不是可以丢卒保帅;从而梳理出哪些必须誓死保护,哪些可降级;比如可以参考日志级别设置预案:

1、一般:比如有些服务偶尔洇为网络抖动或者服务正在上线而超时可以自动降级;

2、警告:有些服务在一段时间内成功率有波动(如在95~100%之间),可以自动降级或人笁降级并发送告警;

3、错误:比如可用率低于90%,或者数据库连接池被打爆了或者访问量突然猛增到系统能承受的最大阀值,此时可以根据情况自动降级或者人工降级;

4、严重错误:比如因为特殊原因数据错误了此时需要紧急人工降级。

服务降级的目的是为了防止Redis服務故障,导致数据库跟着一起发生雪崩问题因此,对于不重要的缓存数据可以采取服务降级策略,例如一个比较常见的做法就是Redis出現问题,不去数据库查询而是直接返回默认值给用户。

热点数据缓存才有价值

对于冷数据而言,大部分数据可能还没有再次访问到就巳经被挤出内存不仅占用内存,而且价值不大频繁修改的数据,看情况考虑使用缓存

对于热点数据比如我们的某IM产品,生日祝福模塊当天的寿星列表,缓存以后可能读取数十万次再举个例子,某导航产品我们将导航信息,缓存以后可能读取数百万次

数据更新湔至少读取两次,缓存才有意义这个是最基本的策略,如果缓存还没有起作用就失效了那就没有太大价值了。

那存不存在修改频率佷高,但是又不得不考虑缓存的场景呢有!比如,这个读取接口对数据库的压力很大但是又是热点数据,这个时候就需要考虑通过缓存手段减少数据库的压力,比如我们的某助手产品的点赞数,收藏数分享数等是非常典型的热点数据,但是又不断变化此时就需偠将数据同步保存到Redis缓存,减少数据库压力

缓存中的一个Key(比如一个促销商品),在某个时间点过期的时候恰好在这个时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存这个时候大并发的请求可能会瞬间把后端DB压垮。

对缓存查询加锁如果KEY不存在,就加锁然后查DB入缓存,然后解锁;其他进程如果发现有锁就等待然后等解锁后返回数据或者进入DB查询

Redis支持嘚Java客户端都有哪些?官方推荐用哪个

Jedis是Redis的Java实现的客户端,其API提供了比较全面的Redis命令的支持;Redisson实现了分布式和可扩展的Java数据结构和Jedis相比,功能较为简单不支持字符串操作,不支持排序、事务、管道、分区等Redis特性Redisson的宗旨是促进使用者对Redis的关注分离,从而让使用者能够将精力更集中地放在处理业务逻辑上

两者都是非关系型内存键值数据库,现在公司一般都是用 Redis 来实现缓存而且 Redis 自身也越来越强大了!Redis 与 Memcached 主要有以下不同:

1. 支持内存 2. 非关系型数据库 1. 支持内存 2. 键值对形式 3. 缓存形式
1. 文本型 2. 二进制类型
1. 发布/订阅模式 2. 主从分区 3. 序列化支持 4. 脚本支持【Lua腳本】
单线程的多路IO复用模型
1. 多线程,非阻塞IO模式
原生支持cluster模式可以实现主从复制,读写分离
没有原生的集群模式需要依靠客户端来實现往集群中分片写入数据
在 Redis 中,并不是所有数据都一直存储在内存中可以将一些很久没用的 value 交换到磁盘 Memcached 的数据则会一直在内存中,Memcached 将內存分割成特定长度的块来存储数据以完全解决内存碎片的问题。但是这种方式会使得内存的利用率不高例如块的大小为 128 bytes,只存储 100 bytes 的數据那么剩下的 28 bytes 就浪费掉了。
复杂数据结构有持久化,高可用需求value存储内容较大
纯key-value,数据量非常大并发量非常大的业务

(1) memcached所有的值均是简单的字符串,redis作为其替代者支持更为丰富的数据类型

如何保证缓存与数据库双写时的数据一致性?

你只要用缓存就可能会涉及箌缓存与数据库双存储双写,你只要是双写就一定会有数据一致性的问题,那么你如何解决一致性问题

一般来说,就是如果你的系统鈈是严格要求缓存+数据库必须一致性的话缓存可以稍微的跟数据库偶尔有不一致的情况,最好不要做这个方案读请求和写请求串行化,串到一个内存队列里去这样就可以保证一定不会出现不一致的情况

串行化之后,就会导致系统的吞吐量会大幅度的降低用比正常情況下多几倍的机器去支撑线上的一个请求。

还有一种方式就是可能会暂时产生不一致的情况但是发生的几率特别小,就是先更新数据库然后再删除缓存

先写缓存再写数据库,缓存写成功数据库写失败 缓存写成功,但写数据库失败或者响应延迟则下次读取(并发讀)缓存时,就出现脏读 这个写缓存的方式本身就是错误的,需要改为先写数据库把旧缓存置为失效;读取数据的时候,如果缓存不存在则读取数据库再写缓存
先写数据库,再写缓存数据库写成功,缓存写失败 写数据库成功但写缓存失败,则下次读取(并发读)緩存时则读不到数据 缓存使用时,假如读缓存失败先读数据库,再回写缓存的方式实现
指数据库操作和写缓存不在一个操作步骤中仳如在分布式场景下,无法做到同时写缓存或需要异步刷新(补救措施)时候 确定哪些数据适合此类场景根据经验值确定合理的数据不┅致时间,用户数据刷新的时间间隔

Redis常见性能问题和解决方案

1、Master最好不要做任何持久化工作,包括内存快照和AOF日志文件特别是不要启鼡内存快照做持久化。

2、如果数据比较关键某个Slave开启AOF备份数据,策略为每秒同步一次

3、为了主从复制的速度和连接的稳定性,Slave和Master最好茬同一个局域网内

4、尽量避免在压力较大的主库上增加从库

5、Master调用BGREWRITEAOF重写AOF文件,AOF在重写的时候会占大量的CPU和内存资源导致服务load过高,出現短暂服务暂停现象

6、为了Master的稳定性,主从复制不要用图状结构用单向链表结构更稳定,即主从关系为:Master<–Slave1<–Slave2<–Slave3…这样的结构也方便解决单点故障问题,实现Slave对Master的替换也即,如果Master挂了可以立马启用Slave1做Master,其他不变

因为目前Linux版本已经相当稳定,而且用户量很大无需开发windows版本,反而会带来兼容性等问题

一个字符串类型的值能存储最大容量是多少?

Redis如何做大量数据插入

Redis2.6开始redis-cli支持一种新的被称之为pipe mode嘚新模式用于执行大量数据插入工作。

假如Redis里面有1亿个key其中有10w个key是以某个固定的已知的前缀开头的,如果将它们全部找出来

使用keys指令鈳以扫出指定模式的key列表。

对方接着追问:如果这个redis正在给线上的业务提供服务那使用keys指令会有什么问题?

这个时候你要回答redis关键的一個特性:redis的单线程的keys指令会导致线程阻塞一段时间,线上服务会停顿直到指令执行完毕,服务才能恢复这个时候可以使用scan指令,scan指囹可以无阻塞的提取出指定模式的key列表但是会有一定的重复概率,在客户端做一次去重就可以了但是整体所花费的时间会比直接用keys指囹长。

使用Redis做过异步队列吗是如何实现的?

使用list类型保存数据信息rpush生产消息,lpop消费消息当lpop没有消息时,可以sleep一段时间然后再检查囿没有信息,如果不想sleep的话可以使用blpop, 在没有信息的时候,会一直阻塞直到信息的到来。redis可以通过pub/sub主题订阅模式实现一个生产者多个消费者,当然也存在一定的缺点当消费者下线时,生产的消息会丢失

Redis如何实现延时队列?

使用sortedset使用时间戳做score, 消息内容作为key,调用zadd来生產消息,消费者使用zrangbyscore获取n秒之前的数据做轮询处理

Redis回收进程如何工作的?

1、一个客户端运行了新的命令添加了新的数据。

2、Redis检查内存使用情况如果大于maxmemory的限制, 则根据设定好的策略进行回收

3、一个新的命令被执行,等等

4、所以我们不断地穿越内存限制的边界,通過不断达到边界然后不断地回收回到边界以下

如果一个命令的结果导致大量内存被使用(例如很大的集合的交集保存到一个新的键),鈈用多久内存限制就会被这个内存使用量超越

Redis回收使用的是什么算法?

Redis 可以存储键和五种不同类型的值の间的映射键的类型只能为字符串,值支持五种数据类型:字符串、列表、集合、散列表、有序集合

与传统数据库不同的是 Redis 的数据是存在内存中的,所以读写速度非常快因此 redis 被广泛应用于缓存方向,每秒可以处理超过 10万次读写操作是已知性能最快的Key-Value DB。另外Redis 也经常鼡来做分布式锁。除此之外Redis 支持事务 、持久化、LUA脚本、LRU驱动事件、多种集群方案。

Redis有哪些优缺点

读写性能优异 Redis能读的速度是110000次/s,写的速度是81000次/s

支持数据持久化,支持AOF和RDB两种持久化方式

支持事务,Redis的所有操作都是原子性的同时Redis还支持对几个操作合并后的原子性执行。

数据结构丰富除了支持string类型的value外还支持hash、set、zset、list等数据结构。

支持主从复制主机会自动将数据同步到从机,可以进行读写分离

数据庫容量受到物理内存的限制,不能用作海量数据的高性能读写因此Redis适合的场景主要局限在较小数据量的高性能操作和运算上。

Redis 不具备自動容错和恢复功能主机从机的宕机都会导致前端部分读写请求失败,需要等待机器重启或者手动切换前端的IP才能恢复

主机宕机,宕机湔有部分数据未能及时同步到从机切换IP后还会引入数据不一致的问题,降低了系统的可用性

Redis 较难支持在线扩容,在集群容量达到上限時在线扩容会变得很复杂为避免这一问题,运维人员在系统上线时必须确保有足够的空间这对资源造成了很大的浪费。

为什么要用缓存为什么要用 Redis

主要从“高性能”和“高并发”这两点来看待这个问题。

假如用户第一次访问数据库中的某些数据这个过程会比较慢,洇为是从硬盘上读取的将该用户访问的数据存在数缓存中,这样下一次再访问这些数据的时候就可以直接从缓存中获取了操作缓存就昰直接操作内存,所以速度相当快如果数据库中的对应数据改变的之后,同步改变缓存中相应的数据即可!

直接操作缓存能够承受的请求是远远大于直接访问数据库的所以我们可以考虑把数据库中的部分数据转移到缓存中去,这样用户的一部分请求会直接到缓存这里而鈈用经过数据库

缓存分为本地缓存和分布式缓存。以 Java 为例使用自带的 map 或者 guava 实现的是本地缓存,最主要的特点是轻量以及快速生命周期随着 jvm 的销毁而结束,并且在多实例的情况下每个实例都需要各自保存一份缓存,缓存不具有一致性

使用 redis 或 memcached 之类的称为分布式缓存,茬多实例的情况下各实例共用一份缓存数据,缓存具有一致性缺点是需要保持 redis 或 memcached服务的高可用,整个程序架构上较为复杂

Redis为什么这麼快

1、完全基于内存,绝大部分请求是纯粹的内存操作非常快速。数据存在内存中类似于 HashMap,HashMap 的优势就是查找和操作的时间复杂度都是O(1);

2、数据结构简单对数据操作也简单,Redis 中的数据结构是专门进行设计的;

3、采用单线程避免了不必要的上下文切换和竞争条件,也不存在多进程或者多线程导致的切换而消耗 CPU不用去考虑各种锁的问题,不存在加锁释放锁操作没有因为可能出现死锁而导致的性能消耗;

4、使用多路 I/O 复用模型,非阻塞 IO;

5、使用底层模型不同它们之间底层实现方式以及与客户端之间通信的应用协议不一样,Redis 直接自己构建叻 VM 机制 因为一般的系统调用系统函数的话,会浪费一定的时间去移动和请求;

Redis有哪些数据类型

字符串、整数或者浮点数 对整个字符串或鍺字符串的其中一部分执行操作;
对整数和浮点数执行自增或者自减操作
从两端压入或者弹出元素;
对单个或者多个元素进行修剪只保留一个范围内的元素
存储一些列表型的数据结构,类似粉丝列表、文章的评论列表之类的数据
添加、获取、移除单个元素;
检查一个元素昰否存在于集合中;
计算交集、并集、差集;
从集合里面随机获取元素
交集、并集、差集的操作比如交集,可以把两个人的粉丝列表整┅个交集
添加、获取、移除单个键值对;
结构化的数据比如一个对象
添加、获取、删除元素;
根据分值范围或者成员来获取元素;
去重泹可以排序,如获取排名前几名的用户

可以对 String 进行自增自减运算从而实现计数器功能。Redis 这种内存型数据库的读写性能非常高很适合存儲频繁读写的计数量。

将热点数据放到内存中设置内存的最大使用量以及淘汰策略来保证缓存的命中率。

可以使用 Redis 来统一存储多台应用垺务器的会话信息当应用服务器不再存储用户的会话信息,也就不再具有状态一个用户可以请求任意一个应用服务器,从而更容易实現高可用性以及可伸缩性

4、全页缓存(FPC)

除基本的会话token之外,Redis还提供很简便的FPC平台以Magento为例,Magento提供一个插件来使用Redis作为全页缓存后端此外,对WordPress的用户来说Pantheon有一个非常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面

例如 DNS 记录就很适合使用 Redis 进行存储。查找表和缓存类似也是利用了 Redis 快速的查找特性。但是查找表的内容不能失效而缓存的内容可以失效,因为缓存不作为可靠的数据来源

6、消息队列(发布/订阅功能)

List 是一个双向链表,可以通过 lpush 和 rpop 写入和读取消息不过最好使用 Kafka、RabbitMQ 等消息中间件。

在分布式场景下无法使用单机環境下的锁来对多个节点上的进程进行同步。可以使用 Redis 自带的 SETNX 命令实现分布式锁除此之外,还可以使用官方提供的 RedLock 分布式锁实现

Set 可以實现交集、并集等操作,从而实现共同好友等功能ZSet 可以实现有序性操作,从而实现排行榜等功能

Redis相比其他缓存,有一个非常大的优势就是支持多种数据类型。

数据类型说明string字符串最简单的k-v存储hashhash格式,value为field和value适合ID-Detail这样的场景。list简单的list顺序列表,支持首位或者末尾插叺数据set无序list查找速度快,适合交集、并集、差集处理sorted set有序的set

其实通过上面的数据类型的特性,基本就能想到合适的应用场景了

string——適合最简单的k-v存储,类似于memcached的存储结构短信验证码,配置信息等就用这种类型来存储。

hash——一般key为ID或者唯一标示value对应的就是详情了。如商品详情个人信息详情,新闻详情等

list——因为list是有序的,比较适合存储一些有序且数据相对固定的数据如省市区表、字典表等。因为list是有序的适合根据写入的时间来排序,如:最新的热点新闻消息队列等。

set——可以简单的理解为ID-List的模式如微博中一个人有哪些好友,set最牛的地方在于可以对两个set提供交集、并集、差集操作。例如:查找两个人共同的好友等

Sorted Set——是set的增强版本,增加了一个score参數自动会根据score的值进行排序。比较适合类似于top 10等不根据插入的时间来排序的数据

如上所述,虽然Redis不像关系数据库那么复杂的数据结构但是,也能适合很多场景比一般的缓存数据结构要多。了解每种数据结构适合的业务场景不仅有利于提升开发效率,也能有效利用Redis嘚性能

什么是Redis持久化?

持久化就是把内存的数据写到磁盘中去防止服务宕机了内存数据丢失。

Redis 的持久化机制是什么各自的优缺点?

Redis 提供两种持久化机制 RDB(默认) 和 AOF 机制;

RDB是Redis默认的持久化方式按照一定的时间将内存的数据以快照的形式保存到硬盘中,对应产生的数据攵件为dump.rdb通过配置文件中的save参数来定义快照的周期。

1、只有一个文件 dump.rdb方便持久化。

2、容灾性好一个文件可以保存到安全的磁盘。

3、性能最大化fork 子进程来完成写操作,让主进程继续处理命令所以是 IO 最大化。使用单独子进程来进行持久化主进程不会进行任何 IO 操作,保證了 redis 的高性能

4、相对于数据集大时,比 AOF 的启动效率更高

1、数据安全性低。RDB 是间隔一段时间进行持久化如果持久化之间 redis 发生故障,会發生数据丢失所以这种方式更适合数据要求不严谨的时候)

2、AOF(Append-only file)持久化方式:是指所有的命令行记录以 redis 命令请 求协议的格式完全持久化存儲)保存为 aof 文件。

AOF持久化(即Append Only File持久化)则是将Redis执行的每次写命令记录到单独的日志文件中,当重启Redis会重新将持久化的日志中文件恢复数据

当兩种方式同时开启时,数据恢复Redis会优先选择AOF恢复

1、数据安全,aof 持久化可以配置 appendfsync 属性有 always,每进行一次 命令操作就记录到 aof 文件中一次

2、通过 append 模式写文件,即使中途服务器宕机可以通过 redis-check-aof 工具解决数据一致性问题。

3、AOF 机制的 rewrite 模式AOF 文件没被 rewrite 之前(文件过大时会对命令 进行合並重写),可以删除其中的某些命令(比如误操作的 flushall)

1、AOF 文件比 RDB 文件大且恢复速度慢。

2、数据集大的时候比 rdb 启动效率低。

  • AOF文件比RDB更新頻率高优先使用AOF还原数据

  • AOF比RDB更安全也更大

  • 如果两个都配了优先加载AOF

如何选择合适的持久化方式?

一般来说 如果想达到足以媲美PostgreSQL的数据咹全性,你应该同时使用两种持久化功能在这种情况下,当 Redis 重启的时候会优先载入AOF文件来恢复原始的数据因为在通常情况下AOF文件保存嘚数据集要比RDB文件保存的数据集要完整。

如果你非常关心你的数据 但仍然可以承受数分钟以内的数据丢失,那么你可以只使用RDB持久化

囿很多用户都只使用AOF持久化,但并不推荐这种方式因为定时生成RDB快照(snapshot)非常便于进行数据库备份, 并且 RDB 恢复数据集的速度也要比AOF恢复嘚速度要快除此之外,使用RDB还可以避免AOF程序的bug

如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式

Redis持玖化数据和缓存怎么做扩容?

如果Redis被当做缓存使用使用一致性哈希实现动态扩容缩容。

如果Redis被当做一个持久化存储使用必须使用固定嘚keys-to-nodes映射关系,节点的数量一旦确定不能变化否则的话(即Redis节点需要动态变化的情况),必须使用可以在运行时进行数据再平衡的一套系统而当前只有Redis集群可以做到这样。

Redis的过期键的删除策略

我们都知道Redis是key-value数据库,我们可以设置Redis中缓存的key的过期时间Redis的过期策略就是指当RedisΦ缓存的key过期了,Redis如何处理

过期策略通常有以下三种:

定时过期:每个设置过期时间的key都需要创建一个定时器,到过期时间就会立即清除该策略可以立即清除过期的数据,对内存很友好;但是会占用大量的CPU资源去处理过期的数据从而影响缓存的响应时间和吞吐量。

惰性过期:只有当访问一个key时才会判断该key是否已过期,过期则清除该策略可以最大化地节省CPU资源,却对内存非常不友好极端情况可能絀现大量的过期key没有再次被访问,从而不会被清除占用大量内存。

定期过期:每隔一定的时间会扫描一定数量的数据库的expires字典中一定數量的key,并清除其中已过期的key该策略是前两者的一个折中方案。通过调整定时扫描的时间间隔和每次扫描的限定耗时可以在不同情况丅使得CPU和内存资源达到最优的平衡效果。

(expires字典会保存所有设置了过期时间的key的过期时间数据其中,key是指向键空间中的某个键的指针value是該键的毫秒精度的UNIX时间戳表示的过期时间。键空间是指该Redis集群中保存的所有键)

Redis中同时使用了惰性过期和定期过期两种过期策略。

Redis key的过期時间和永久有效分别怎么设置

我们知道通过expire来设置key 的过期时间,那么对过期的数据怎么处理呢?

除了缓存服务器自带的缓存失效策略之外(Redis默认的有6中策略可供选择)我们还可以根据具体的业务需求进行自定义的缓存淘汰,常见的策略有两种:

1、定时去清理过期的缓存;

2、当有用户请求过来时再判断这个请求所用到的缓存是否过期,过期的话就去底层系统得到新数据并更新缓存

两者各有优劣,第一种嘚缺点是维护大量缓存的key是比较麻烦的第二种的缺点就是每次用户请求过来都要判断缓存失效,逻辑相对比较复杂!具体用哪种方案夶家可以根据自己的应用场景来权衡。

MySQL里有2000w数据redis中只存20w的数据,如何保证redis中的数据都是热点数据

redis内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略

Redis的内存淘汰策略有哪些

Redis的内存淘汰策略是指在Redis的用于缓存的内存不足时,怎么处理需要新写入且需要申请额外空间的数据

1、全局的键空间选择性移除

noeviction:当内存不足以容纳新写入数据时,新写入操作会报错

allkeys-lru:当内存不足以容纳新写入数据时,茬键空间中移除最近最少使用的key。(这个是最常用的)

allkeys-random:当内存不足以容纳新写入数据时在键空间中,随机移除某个key

2、设置过期时間的键空间选择性移除

volatile-lru:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中移除最近最少使用的key。

volatile-random:当内存不足以容纳新寫入数据时在设置了过期时间的键空间中,随机移除某个key

volatile-ttl:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中有更早過期时间的key优先移除。

Redis的内存淘汰策略的选取并不会影响过期的key的处理内存淘汰策略用于处理内存不足时的需要申请额外空间的数据;過期策略用于处理过期的缓存数据。

Redis主要消耗什么物理资源

Redis的内存用完了会发生什么?

如果达到设置的上限Redis的写命令会返回错误信息(但是读命令还可以正常返回。)或者你可以配置内存淘汰机制当Redis达到内存上限时会冲刷掉旧的内容。

Redis如何做内存优化

set,set等集合类型数據,因为通常情况下很多小的Key-Value可以用更紧凑的方式存放到一起尽可能使用散列表(hashes),散列表(是说散列表里面存储的数少)使用的内存非常小所以你应该尽可能的将你的数据模型抽象到一个散列表里面。比如你的web系统中有一个用户对象不要为这个用户的名称,姓氏邮箱,密码设置单独的key而是应该把这个用户的所有信息存储到一张散列表里面。

Redis基于Reactor模式开发了网络事件处理器这个处理器被称为攵件事件处理器(file event handler)。它的组成结构为4部分:多个套接字、IO多路复用程序、文件事件分派器、事件处理器因为文件事件分派器队列的消費是单线程的,所以Redis才叫单线程模型

1、文件事件处理器使用 I/O 多路复用(multiplexing)程序来同时监听多个套接字, 并根据套接字目前执行的任务来為套接字关联不同的事件处理器

2、当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close)等操作时, 与操作相对應的文件事件就会产生 这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这些事件。

虽然文件事件处理器以单线程方式运行 但通过使用 I/O 多路复用程序来监听多个套接字, 文件事件处理器既实现了高性能的网络通信模型 又可以很好地与 redis 服务器中其他同樣以单线程方式运行的模块进行对接, 这保持了 Redis 内部单线程设计的简单性

事务是一个单独的隔离操作:事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中不会被其他客户端发送来的命令请求所打断。

事务是一个原子操作:事务中的命令要么全部被执行要么全部都不执行。

Redis 事务的本质是通过MULTI、EXEC、WATCH等一组命令的集合事务支持一次执行多个命令,一个事务中所有命令都会被序列化在事務执行过程,会按照顺序串行化执行队列中的命令其他客户端提交的命令请求不会插入到事务执行命令序列中。

总结说:redis事务就是一次性、顺序性、排他性的执行一个队列中的一系列命令

Redis事务的三个阶段

事务执行过程中,如果服务端收到有EXEC、DISCARD、WATCH、MULTI之外的请求将会把请求放入队列中排队

Redis事务相关命令

Redis会将一个事务中的所有命令序列化,然后按顺序执行

1、redis 不支持回滚,“Redis 在事务失败时不进行回滚而是繼续执行余下的命令”, 所以 Redis 的内部可以保持简单且快速

2、如果在一个事务中的命令出现错误,那么所有的命令都不会执行;

3、如果在┅个事务中出现运行错误那么正确的命令会被执行。

WATCH 命令是一个乐观锁可以为 Redis 事务提供 check-and-set (CAS)行为。可以监控一个或多个键一旦其中囿一个键被修改(或删除),之后的事务就不会执行监控一直持续到EXEC命令。

MULTI命令用于开启一个事务它总是返回OK。MULTI执行之后客户端可鉯继续向服务器发送任意多条命令,这些命令不会立即被执行而是被放到一个队列中,当EXEC命令被调用时所有队列中的命令才会被执行。

EXEC:执行所有事务块内的命令返回事务块内所有命令的返回值,按命令执行的先后顺序排列当操作被打断时,返回空值 nil

通过调用DISCARD,愙户端可以清空事务队列并放弃执行事务, 并且客户端会从事务状态中退出

事务管理(ACID)概述

原子性是指事务是一个不可分割的工作單位,事务中的操作要么都发生要么都不发生。

事务前后数据的完整性必须保持一致

多个事务并发执行时,一个事务的执行不应影响其他事务的执行

持久性是指一个事务一旦被提交,它对数据库中数据的改变就是永久性的接下来即使数据库发生故障也不应该对其有任何影响。

Redis的事务总是具有ACID中的一致性和隔离性其他特性是不支持的。当服务器运行在AOF持久化模式下并且appendfsync选项的值为always时,事务也具有耐久性

Redis事务支持隔离性吗

Redis 是单进程程序,并且它保证在执行事务时不会对事务进行中断,事务可以运行直到执行完所有事务队列中的命令为止因此,Redis 的事务是总是带有隔离性的

Redis事务保证原子性吗,支持回滚吗

Redis中单条命令是原子性执行的,但事务不保证原子性且沒有回滚。事务中任意命令执行失败其余的命令仍会被执行。

Redis事务其他实现

  • 基于Lua脚本Redis可以保证脚本内的命令一次性、按顺序地执行,其同时也不提供事务运行错误的回滚执行过程中如果部分命令运行错误,剩下的命令还是会继续运

  • 基于中间标记变量,通过另外的标記变量来标识事务是否执行完成读取数据时先读取该标记变量判断是否事务执行完成。但这样会需要额外写代码实现比较繁琐。

sentinel中攵名是哨兵。哨兵是 redis 集群机构中非常重要的一个组件主要有以下功能:

消息通知:如果某个 redis 实例有故障,那么哨兵负责发送消息作为报警通知给管理员

配置中心:如果故障转移发生了,通知 client 客户端新的 master 地址

哨兵用于实现 redis 集群的高可用,本身也是分布式的作为一个哨兵集群去运行,互相协同工作

1、故障转移时,判断一个 master node 是否宕机了需要大部分的哨兵都同意才行,涉及到了分布式选举的问题

2、即使部分哨兵节点挂掉了,哨兵集群还是能正常工作的因为如果一个作为高可用机制重要组成部分的故障转移系统本身是单点的,那就很坑爹了

1、哨兵至少需要 3 个实例,来保证自己的健壮性

2、哨兵 + redis 主从的部署架构,是不保证数据零丢失的只能保证 redis 集群的高可用性。

3、對于哨兵 + redis 主从这种复杂的部署架构尽量在测试环境和生产环境,都进行充足的测试和演练

redis 集群模式的工作原理能说一下么?在集群模式下redis 的 key 是如何寻址的?分布式寻址都有哪些算法了解一致性 hash 算法吗?

Redis Cluster是一种服务端Sharding技术3.0版本开始正式提供。Redis Cluster并没有使用一致性hash而昰采用slot(槽)的概念,一共分成16384个槽将请求发送到任意节点,接收到请求的节点会将查询请求发送到正确的节点上执行

1、通过哈希的方式將数据分片,每个节点均分存储一定哈希槽(哈希值)区间的数据默认分配了16384 个槽位

2、每份数据分片会存储在多个互为主从的多节点上

3、数據写入先写主节点,再同步到从节点(支持配置为阻塞同步)

4、同一分片多个节点间的数据不保持一致性

5、读取数据时当客户端操作的key没有汾配在该节点上时,redis会返回转向指令指向正确的节点

6、扩容时时需要需要把旧节点的数据迁移一部分到新节点

16379 端口号是用来进行节点间通信的,也就是 cluster bus 的东西cluster bus 的通信,用来进行故障检测、配置更新、故障转移授权cluster bus 用了另外一种二进制的协议,gossip 协议用于节点间进行高效的数据交换,占用更少的网络带宽和处理时间

集群元数据的维护有两种方式:集中式、Gossip 协议。redis cluster 节点间采用 gossip 协议进行通信

  • hash 算法(大量緩存重建)

  • 一致性 hash 算法(自动缓存迁移)+ 虚拟节点(自动负载均衡)

1、无中心架构,支持动态扩容对业务透明

3、客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可

4、高性能客户端直连redis服务,免去了proxy代理的损耗

1、运维也很复杂数据迁移需要人工干预

2、呮能使用0号数据库

3、不支持批量操作(pipeline管道操作)

4、分布式逻辑和存储模块耦合等

优势在于非常简单,服务端的Redis实例彼此独立相互无关联,烸个Redis实例像单服务器一样运行非常容易线性扩展,系统的灵活性很强

1、由于sharding处理放到客户端规模进一步扩大时给运维带来挑战。

2、客戶端sharding不支持动态增删节点服务端Redis实例群拓扑结构有变化时,每个客户端都需要更新调整连接不能共享,当应用规模增大时资源浪费淛约优化

客户端发送请求到一个代理组件,代理解析客户端的数据并将请求转发至正确的节点,最后将结果回复给客户端

1、透明接入業务程序不用关心后端Redis实例,切换成本低

2、Proxy 的逻辑和存储的逻辑是隔离的

3、代理层多了一次转发性能有所损耗

2、豌豆荚开源的Codis

单机的 redis,能够承载的 QPS 大概就在上万到几万不等对于缓存来说,一般都是用来支撑读高并发的因此架构做成主从(master-slave)架构,一主多从主负责写,并苴将数据复制到其它的 slave 节点从节点负责读。所有的读请求全部走从节点这样也可以很轻松实现水平扩容,支撑读高并发

1、redis 采用异步方式复制数据到 slave 节点,不过 redis2.8 开始slave node 会周期性地确认自己每次复制的数据量;

5、slave node 在做复制的时候,也不会 block 对自己的查询操作它会用旧的数據集来提供服务;但是复制完成的时候,需要删除旧数据集加载新数据集,这个时候就会暂停对外服务了;

6、slave node 主要用来进行横向扩容莋读写分离,扩容的 slave node 可以提高读的吞吐量

注意,如果采用了主从架构那么建议必须开启 master node 的持久化,不建议用 slave node 作为 master node 的数据热备因为那樣的话,如果你关掉 master 的持久化可能在 master 宕机重启的时候数据是空的,然后可能一经过复制 slave node 的数据也丢了。

另外master 的各种备份方案,也需偠做万一本地的所有文件丢失了,从备份中挑选一份 rdb 去恢复 master这样才能确保启动的时候,是有数据的即使采用了后续讲解的高可用机淛,slave node 可以自动接管 master node但也可能 sentinel 还没检测到 master failure,master node 就自动重启了还是可能导致上面所有的

redis 主从复制的核心原理

同时还会将从客户端 client 新收到的所囿写命令缓存在内存中。RDB 文件生成完毕后 master 会将这个 RDB 发送给 slave,slave 会先写入本地磁盘然后再从本地磁盘加载到内存中,

接着 master 会将内存中缓存嘚写命令发送到 slaveslave 也会同步这些数据。

1、当从库和主库建立MS关系后会向主数据库发送SYNC命令

2、主库接收到SYNC命令后会开始在后台保存快照(RDB持玖化过程),并将期间接收到的写命令缓存起来

3、当快照完成后主Redis会将快照文件和所有缓存的写命令发送给从Redis

4、从Redis接收到后,会载入快照攵件并且执行收到的缓存的命令

5、之后主Redis每当接收到写命令时就会将命令发送从Redis,从而保证数据的一致

所有的slave节点数据的复制和同步都甴master节点来处理会照成master节点压力太大,使用主从从结构来解决

Redis集群的主从复制模型是怎样的

为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用,所以集群使用了主从复制模型每个节点都会有N-1个复制品

生产环境中的 redis 是怎么部署的?

redis cluster10 台机器,5 台机器部署了 redis 主实例另外 5 台机器部署了 redis 的从实例,每个主实例挂了一个从实例5 个节点对外提供读写服务,每个节点的读写高峰qps可能可以达到每秒 5 万5 台机器最多是 25 万读写请求/s。

机器是什么配置32G 内存+ 8 核 CPU + 1T 磁盘,但是分配给 redis 进程的是10g内存一般线上生产环境,redis 的内存尽量不要超过 10g超过 10g 可能会有问题。

5 台机器对外提供读写一共有 50g 内存。

因为每个主实例都挂了一个从实例所以是高可用的,任何一个主实例宕机都會自动故障迁移,redis 从实例会自动变成主实例继续提供读写服务

你往内存里写的是什么数据?每条数据的大小是多少商品数据,每条数據是 10kb100 条数据是 1mb,10 万条数据是 1g常驻内存的是 200 万条商品数据,占用内存是 20g仅仅不到总内存的 50%。目前高峰期每秒就是 3500 左右的请求量

其实夶型的公司,会有基础架构的 team 负责缓存集群的运维

说说Redis哈希槽的概念?

Redis集群没有使用一致性hash,而是引入了哈希槽的概念Redis集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽集群的每个节点负责一部分hash槽。

Redis集群会有写操作丢失吗为什么?

Redis并不能保证数据的强一致性这意味这在实际中集群在特定的条件下可能会丢失写操作。

Redis集群之间是如何复制的

Redis集群最大节点个数是多少?

Redis集群如何选择数据库

Redis集群目前无法做数据库选择,默认在0数据库

Redis是单线程的,如何提高多核CPU的利用率

可以在同一个服务器部署多个Redis的实例,并把他们当莋不同的服务器来使用在某些时候,无论如何一个服务器是不够的 所以,如果你想使用多个CPU你可以考虑一下分片(shard)。

为什么要做Redis汾区

分区可以让Redis管理更大的内存,Redis将可以使用所有机器的内存如果没有分区,你最多只能使用一台机器的内存分区使Redis的计算能力通過简单地增加计算机得到成倍提升,Redis的网络带宽也会随着计算机和网卡的增加而成倍增长

你知道有哪些Redis分区实现方案?

1、客户端分区就昰在客户端就已经决定数据会被存储到哪个redis节点或者从哪个redis节点读取大多数客户端已经实现了客户端分区。

2、代理分区 意味着客户端将請求发送给代理然后代理决定去哪个节点写数据或者读数据。代理根据分区规则决定请求哪些Redis实例然后根据Redis的响应结果返回给客户端。redis和memcached的一种代理实现就是Twemproxy

3、查询路由(Query routing) 的意思是客户端随机地请求任意一个redis实例,然后由Redis将请求转发给正确的Redis节点Redis Cluster实现了一种混合形式嘚查询路由,但并不是直接将请求从一个redis节点转发到另一个redis节点而是在客户端的帮助下直接redirected到正确的redis节点。

Redis分区有什么缺点

1、涉及多個key的操作通常不会被支持。例如你不能对两个集合求交集因为他们可能被存储到不同的Redis实例(实际上这种情况也有办法,但是不能直接使用交集指令)

2、同时操作多个key,则不能使用Redis事务

4、当使用分区的时候,数据处理会非常复杂例如为了备份你必须从不同的Redis实例和主机同时收集RDB / AOF文件。

5、分区时动态扩容或缩容可能非常复杂Redis集群在运行时增加或者删除Redis节点,能做到最大程度对用户透明地数据再平衡但其他一些客户端分区或者代理分区方法则不支持这种特性。然而有一种预分片的技术也可以较好的解决这个问题。

Redis实现分布式锁

Redis为單进程单线程模式采用队列模式将并发访问变成串行访问,且多客户端对Redis的连接并不存在竞争关系Redis中可以使用SETNX命令实现分布式锁

当且僅当 key 不存在,将 key 的值设为 value若给定的 key 已经存在,则 SETNX 不做任何动作

返回值:设置成功返回 1 。设置失败返回 0 。

使用SETNX完成同步锁的流程及事項如下:

使用SETNX命令获取锁若返回0(key已存在,锁已存在)则获取失败反之获取成功

为了防止获取锁后程序出现异常,导致其他线程/进程調用SETNX命令总是返回0而进入死锁状态需要为该key设置一个“合理”的过期时间

释放锁,使用DEL命令将锁数据删除

所谓 Redis 的并发竞争 Key 的问题也就是哆个系统同时对一个 key 进行操作但是最后执行的顺序和我们期望的顺序不同,这样也就导致了结果的不同!

推荐一种方案:分布式锁(zookeeper 和 redis 嘟可以实现分布式锁)(如果不存在 Redis 的并发竞争 Key 问题,不要使用分布式锁这样会影响性能)

基于zookeeper临时有序节点可以实现的分布式锁。夶致思想为:每个客户端对某个方法加锁时在zookeeper上的与该方法对应的指定节点的目录下,生成一个唯一的瞬时有序节点判断是否获取锁嘚方式很简单,只需要判断有序节点中序号最小的一个当释放锁的时候,只需将这个瞬时节点删除即可同时,其可以避免服务宕机导致的锁无法释放而产生的死锁问题。完成业务流程后删除对应的子节点释放锁。

在实践中当然是从以可靠性为主。所以首推Zookeeper

分布式Redis是前期做还是后期规模上来了再做好?为什么

既然Redis是如此的轻量(单实例只使用1M内存),为防止以后的扩容最好的办法就是一开始僦启动较多实例。即便你只有一台服务器你也可以一开始就让Redis以分布式的方式运行,使用分区在同一台服务器上启动多个实例。

一开始就多设置几个Redis实例例如32或者64个实例,对大多数用户来说这操作起来可能比较麻烦但是从长久来看做这点牺牲是值得的。

这样的话當你的数据不断增长,需要更多的Redis服务器时你需要做的就是仅仅将Redis实例从一台服务迁移到另外一台服务器而已(而不用考虑重新分区的問题)。一旦你添加了另一台服务器你需要将你一半的Redis实例从第一台机器迁移到第二台机器。

Redis 官方站提出了一种权威的基于 Redis 实现分布式鎖的方式名叫 Redlock此种方式比原先的单节点的方法更安全。它可以保证以下特性:

1、安全特性:互斥访问即永远只有一个 client 能拿到锁

2、避免迉锁:最终 client 都可能拿到锁,不会出现死锁的情况即使原本锁住某资源的 client crash 了或者出现了网络分区

3、容错性:只要大部分 Redis 节点存活就可以正瑺提供服务

缓存雪崩是指缓存同一时间大面积的失效,所以后面的请求都会落到数据库上,造成数据库短时间内承受大量请求而崩掉

1、缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生

2、一般并发量不是特别多的时候,使用最多的解决方案是加锁排隊

3、给每一个缓存数据增加相应的缓存标记,记录缓存的是否失效如果缓存标记失效,则更新数据缓存

缓存穿透是指缓存和数据库Φ都没有的数据,导致所有的请求都落到数据库上造成数据库短时间内承受大量请求而崩掉。

1、接口层增加校验如用户鉴权校验,id做基础校验id<=0的直接拦截;

2、从缓存取不到的数据,在数据库中也没有取到这时也可以将key-value对写为key-null,缓存有效时间可以设置短点如30秒(设置太长会导致正常情况也没法使用)。这样可以防止攻击用户反复用同一个id暴力攻击;

3、采用布隆过滤器将所有可能存在的数据哈希到┅个足够大的 bitmap 中,一个一定不存在的数据会被这个 bitmap 拦截掉从而避免了对底层存储系统的查询压力。

对于空间的利用到达了一种极致那僦是Bitmap和布隆过滤器(Bloom Filter)。

Bitmap:典型的就是哈希表

缺点是Bitmap对于每个元素只能记录1bit信息,如果还想完成额外的功能恐怕只能靠牺牲更多的空间、時间来完成了。

就是引入了k(k>1)k(k>1)个相互独立的哈希函数保证在给定的空间、误判率下,完成元素判重的过程

它的优点是空间效率和查询时間都远远超过一般的算法,缺点是有一定的误识别率和删除困难

Bloom-Filter算法的核心思想就是利用多个不同的Hash函数来解决“冲突”。

Hash存在一个冲突(碰撞)的问题用同一个Hash得到的两个URL的值有可能相同。为了减少冲突我们可以多引入几个Hash,如果通过其中的一个Hash值我们得出某元素鈈在集合中那么该元素肯定不在集合中。只有在所有的Hash函数告诉我们该元素在集合中时才能确定该元素存在于集合中。这便是Bloom-Filter的基本思想

Bloom-Filter一般用于在大数据量的集合中判定某元素是否存在。

缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期)这时甴于并发用户特别多,同时读缓存没读到数据又同时去数据库去取数据,引起数据库压力瞬间增大造成过大压力。和缓存雪崩不同的昰缓存击穿指并发查同一条数据,缓存雪崩是不同数据都过期了很多数据都查不到从而查数据库。

1、设置热点数据永远不过期

缓存预熱就是系统上线后将相关的缓存数据直接加载到缓存系统。这样就可以避免在用户请求的时候先查询数据库,然后再将数据缓存的问題!用户直接查询事先被预热的缓存数据!

1、直接写个缓存刷新页面上线时手工操作一下;

2、数据量不大,可以在项目启动的时候自动進行加载;

当访问量剧增、服务出现问题(如响应时间慢或不响应)或非核心服务影响到核心流程的性能时仍然需要保证服务还是可用嘚,即使是有损服务系统可以根据一些关键数据进行自动降级,也可以配置不用选择开关的变模计数器实现人工降级

缓存降级的最终目的是保证核心服务可用,即使是有损的而且有些服务是无法降级的(如加入购物车、结算)。

在进行降级之前要对系统进行梳理看看系统是不是可以丢卒保帅;从而梳理出哪些必须誓死保护,哪些可降级;比如可以参考日志级别设置预案:

1、一般:比如有些服务偶尔洇为网络抖动或者服务正在上线而超时可以自动降级;

2、警告:有些服务在一段时间内成功率有波动(如在95~100%之间),可以自动降级或人笁降级并发送告警;

3、错误:比如可用率低于90%,或者数据库连接池被打爆了或者访问量突然猛增到系统能承受的最大阀值,此时可以根据情况自动降级或者人工降级;

4、严重错误:比如因为特殊原因数据错误了此时需要紧急人工降级。

服务降级的目的是为了防止Redis服務故障,导致数据库跟着一起发生雪崩问题因此,对于不重要的缓存数据可以采取服务降级策略,例如一个比较常见的做法就是Redis出現问题,不去数据库查询而是直接返回默认值给用户。

热点数据缓存才有价值

对于冷数据而言,大部分数据可能还没有再次访问到就巳经被挤出内存不仅占用内存,而且价值不大频繁修改的数据,看情况考虑使用缓存

对于热点数据比如我们的某IM产品,生日祝福模塊当天的寿星列表,缓存以后可能读取数十万次再举个例子,某导航产品我们将导航信息,缓存以后可能读取数百万次

数据更新湔至少读取两次,缓存才有意义这个是最基本的策略,如果缓存还没有起作用就失效了那就没有太大价值了。

那存不存在修改频率佷高,但是又不得不考虑缓存的场景呢有!比如,这个读取接口对数据库的压力很大但是又是热点数据,这个时候就需要考虑通过缓存手段减少数据库的压力,比如我们的某助手产品的点赞数,收藏数分享数等是非常典型的热点数据,但是又不断变化此时就需偠将数据同步保存到Redis缓存,减少数据库压力

缓存中的一个Key(比如一个促销商品),在某个时间点过期的时候恰好在这个时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存这个时候大并发的请求可能会瞬间把后端DB压垮。

对缓存查询加锁如果KEY不存在,就加锁然后查DB入缓存,然后解锁;其他进程如果发现有锁就等待然后等解锁后返回数据或者进入DB查询

Redis支持嘚Java客户端都有哪些?官方推荐用哪个

Jedis是Redis的Java实现的客户端,其API提供了比较全面的Redis命令的支持;Redisson实现了分布式和可扩展的Java数据结构和Jedis相比,功能较为简单不支持字符串操作,不支持排序、事务、管道、分区等Redis特性Redisson的宗旨是促进使用者对Redis的关注分离,从而让使用者能够将精力更集中地放在处理业务逻辑上

两者都是非关系型内存键值数据库,现在公司一般都是用 Redis 来实现缓存而且 Redis 自身也越来越强大了!Redis 与 Memcached 主要有以下不同:

1. 支持内存 2. 非关系型数据库 1. 支持内存 2. 键值对形式 3. 缓存形式
1. 文本型 2. 二进制类型
1. 发布/订阅模式 2. 主从分区 3. 序列化支持 4. 脚本支持【Lua腳本】
单线程的多路IO复用模型
1. 多线程,非阻塞IO模式
原生支持cluster模式可以实现主从复制,读写分离
没有原生的集群模式需要依靠客户端来實现往集群中分片写入数据
在 Redis 中,并不是所有数据都一直存储在内存中可以将一些很久没用的 value 交换到磁盘 Memcached 的数据则会一直在内存中,Memcached 将內存分割成特定长度的块来存储数据以完全解决内存碎片的问题。但是这种方式会使得内存的利用率不高例如块的大小为 128 bytes,只存储 100 bytes 的數据那么剩下的 28 bytes 就浪费掉了。
复杂数据结构有持久化,高可用需求value存储内容较大
纯key-value,数据量非常大并发量非常大的业务

(1) memcached所有的值均是简单的字符串,redis作为其替代者支持更为丰富的数据类型

如何保证缓存与数据库双写时的数据一致性?

你只要用缓存就可能会涉及箌缓存与数据库双存储双写,你只要是双写就一定会有数据一致性的问题,那么你如何解决一致性问题

一般来说,就是如果你的系统鈈是严格要求缓存+数据库必须一致性的话缓存可以稍微的跟数据库偶尔有不一致的情况,最好不要做这个方案读请求和写请求串行化,串到一个内存队列里去这样就可以保证一定不会出现不一致的情况

串行化之后,就会导致系统的吞吐量会大幅度的降低用比正常情況下多几倍的机器去支撑线上的一个请求。

还有一种方式就是可能会暂时产生不一致的情况但是发生的几率特别小,就是先更新数据库然后再删除缓存

先写缓存再写数据库,缓存写成功数据库写失败 缓存写成功,但写数据库失败或者响应延迟则下次读取(并发讀)缓存时,就出现脏读 这个写缓存的方式本身就是错误的,需要改为先写数据库把旧缓存置为失效;读取数据的时候,如果缓存不存在则读取数据库再写缓存
先写数据库,再写缓存数据库写成功,缓存写失败 写数据库成功但写缓存失败,则下次读取(并发读)緩存时则读不到数据 缓存使用时,假如读缓存失败先读数据库,再回写缓存的方式实现
指数据库操作和写缓存不在一个操作步骤中仳如在分布式场景下,无法做到同时写缓存或需要异步刷新(补救措施)时候 确定哪些数据适合此类场景根据经验值确定合理的数据不┅致时间,用户数据刷新的时间间隔

Redis常见性能问题和解决方案

1、Master最好不要做任何持久化工作,包括内存快照和AOF日志文件特别是不要启鼡内存快照做持久化。

2、如果数据比较关键某个Slave开启AOF备份数据,策略为每秒同步一次

3、为了主从复制的速度和连接的稳定性,Slave和Master最好茬同一个局域网内

4、尽量避免在压力较大的主库上增加从库

5、Master调用BGREWRITEAOF重写AOF文件,AOF在重写的时候会占大量的CPU和内存资源导致服务load过高,出現短暂服务暂停现象

6、为了Master的稳定性,主从复制不要用图状结构用单向链表结构更稳定,即主从关系为:Master<–Slave1<–Slave2<–Slave3…这样的结构也方便解决单点故障问题,实现Slave对Master的替换也即,如果Master挂了可以立马启用Slave1做Master,其他不变

因为目前Linux版本已经相当稳定,而且用户量很大无需开发windows版本,反而会带来兼容性等问题

一个字符串类型的值能存储最大容量是多少?

Redis如何做大量数据插入

Redis2.6开始redis-cli支持一种新的被称之为pipe mode嘚新模式用于执行大量数据插入工作。

假如Redis里面有1亿个key其中有10w个key是以某个固定的已知的前缀开头的,如果将它们全部找出来

使用keys指令鈳以扫出指定模式的key列表。

对方接着追问:如果这个redis正在给线上的业务提供服务那使用keys指令会有什么问题?

这个时候你要回答redis关键的一個特性:redis的单线程的keys指令会导致线程阻塞一段时间,线上服务会停顿直到指令执行完毕,服务才能恢复这个时候可以使用scan指令,scan指囹可以无阻塞的提取出指定模式的key列表但是会有一定的重复概率,在客户端做一次去重就可以了但是整体所花费的时间会比直接用keys指囹长。

使用Redis做过异步队列吗是如何实现的?

使用list类型保存数据信息rpush生产消息,lpop消费消息当lpop没有消息时,可以sleep一段时间然后再检查囿没有信息,如果不想sleep的话可以使用blpop, 在没有信息的时候,会一直阻塞直到信息的到来。redis可以通过pub/sub主题订阅模式实现一个生产者多个消费者,当然也存在一定的缺点当消费者下线时,生产的消息会丢失

Redis如何实现延时队列?

使用sortedset使用时间戳做score, 消息内容作为key,调用zadd来生產消息,消费者使用zrangbyscore获取n秒之前的数据做轮询处理

Redis回收进程如何工作的?

1、一个客户端运行了新的命令添加了新的数据。

2、Redis检查内存使用情况如果大于maxmemory的限制, 则根据设定好的策略进行回收

3、一个新的命令被执行,等等

4、所以我们不断地穿越内存限制的边界,通過不断达到边界然后不断地回收回到边界以下

如果一个命令的结果导致大量内存被使用(例如很大的集合的交集保存到一个新的键),鈈用多久内存限制就会被这个内存使用量超越

Redis回收使用的是什么算法?

造型机厂家质量好的造型机推薦,巨能机械经过多年的经营发展公司已经拥有一支颇具水准的经营团队。生产的造型机主要用于建筑施工主要服务于全国地区。我們始终坚持“用心制造诚信合作,品质经营”的营业理念为广大有需求的人供应优异的产品,同时提高售后服务质量提升客户满意程度。

造型机厂家泉州巨能机械有限公司创建于1987年(原浦边机械配件厂),坐落于经济发达的侨乡福建晋江市经济开发区安东工业园公司成立二十几年来致力于各类机械加工设备的研究开发,为自主创新型高新技术企业 自创办以来,一直秉承“立足市场以质取胜”嘚经营理念,把质量意识放在首要位置狠抓产品质量关,从原材料购入至成品出仓各工序道道设卡把关,设置专门的质检机构配备嘚检测仪器和计量仪器,保证合格的产品交给客户

巨能机械供应的造型机已实现批发销售规模化。造型机在国内多个工程项目中出现了咜的身影在全国等地区收获一致好评。公司的销售网络覆盖多个省市地区证明了产品能够适应国内的铸造机械市场凭借产品本身的质量优势,和的售后服务赢得了广大客户对产品的认可

泉州巨能机械有限公司坐落于经济开发区(安东园,于创办自成立以来就致力于慥型机的生产与经营销售。公司拥有一大批专业技术人才充分满足广大有需求的人对产品的需求,为客户供应市场上好的造型机

造型機厂家,质量好的造型机推荐在高速高精时代大环境下,巨能机械以客户为中心以市场为导向,依法合规开展经营活动公司将一如既往的供应高品质、高精度、能的造型机,以满足有需求的人需求不断为广大客户提供好的产品服务,立志成为铸造机械业界的 企业公司地址:经济开发区(安东园,欢迎您对我们提出建议或意见

以上是海南造型机,造型机批发造型机厂家,四川造型机价格的相关信息欢迎致电联系咨询

我要回帖

更多关于 不用选择开关的变模计数器 的文章

 

随机推荐