Fork me on GitHub

Redis 高頻面試題:10w+QPS 的 Redis 真的只是因為單線程和基于內存?

原文鏈接10w+QPS 的 Redis 真的只是因為單線程和內存?360° 深入底層設計為你揭開 Redis 神秘面紗!

你以為 Redis 這么快僅僅因為單線程和基于內存?

那么你想得太少了,我個人認為 Redis 的快是基于多方面的:不但是單線程和內存,還有底層的數據結構設計,網絡通信的設計,主從、哨兵和集群等等方面的設計~

下面,我將 360° 為你揭開 Redis QPS達到10萬/秒的神秘面紗。

一、底層數據結構設計

1、底層架構:

首先值得稱贊的第一點:Redis 底層使用的數據結構很多,但是卻沒有直接使用這些數據結構來實現鍵值對數據庫,而是基于數據結構創建了一個對象(redisObject)系統。(是不是覺得有點面向對象編程的意思 ?? ~)

對象系統里面包括了字符串對象,列表對象,哈希對象、集合對象和有序集合對象。

使用對象的好處:

  • Redis 在執行命令之前,可以根據對象的類型判斷這個對象是否可以執行給定的命令。
  • 可以針對不用的使用場景,為對象設置多種不同的數據結構實現,從而優化對象在不同場景下的使用效率。

一個對象怎么設置不同的數據結構實現?

在講解前,我們必須要了解 Redis 對象的結構。

它三個重要的部分:type 屬性、encoding 屬性,和 ptr 屬性。

我們用字符串對象為例:

我們都知道,Redis 的 SET 命令其實是針對字符串的,但是它也可以設置數值。那底層是怎么做的呢?

它會將 String 對象的 encoding 屬性標識為 REDIS_ENCODING_INT,表示這個鍵對應的值是 Long 類型的整數。

在這里插入圖片描述

而當我們利用 APPEND 命令往值后面添加字符串呢?

此時會將 String 對象的 encoding 屬性的標識為 REDIS_ENCODING_RAW,表示這個值此時是簡單動態字符串。

在這里插入圖片描述

正是因為使用對象,通過 type、encoding和prt 屬性,使得同一個對象可以適應在不同的場景下,使得不同的改變不需要創建新的鍵值對,這樣使得 Redis 的對象使用效率非常的高。

2、靈活的字符串對象

Redis 的字符串對象采用三種編碼:int、embstr 和 raw。

int 編碼就不用說了,就是為了兼容 SET 命令可以設置數值。

而 embstr 和 raw 最大的區別就是內存分配操作次數:

  • embstr 編碼專門用于保存短字符串,所以它是通過調用一次內存分配函數來分配一塊連續的空間,空間包含 redisObject 和 sdsshdr 兩個結構,這樣可以很好地利用緩存帶來的優勢。
  • raw 編碼則是用于保存長字符串,它通過調用兩次內存分配函數來分別創建 redisObject 結構和 sdshdr 結構

3、絕妙的字符串優化策略

Redis 中字符串對象的底層是使用 SDS (Simple Dynamic String)實現的。

SDS 有三部分:

  • len:記錄 buf 數組中已使用字節的數量,等于 SDS 鎖保存字符串的長度

  • free:記錄 buf 數組中未使用字節的數量

  • buf[]:字節數組,用于保存字符串

首先介紹一下使用 len 屬性和 free 屬性的好處:

得益于 SDS 有 len 屬性,獲取字符串長度的復雜度為 O(1);

得益于 SDS 有 free 屬性,可以杜絕緩沖區溢出,字符串擴展前可以根據 free 屬性來判斷是否滿足直接擴展,不滿足則需要先執行內存重分配操作,然后再擴展字符串。

我們都知道修改字符串長度很有可能導致觸發內存重分配操作,但是 Redis 對于內存重分配有兩個優化策略:

空間預分配:

  • 空間預分配用于優化 SDS 的字符串增長操作:當 SDS 的API對一個 SDS 進行修改,并且需要對 SDS 進行空間擴展的時候,程序不僅會為 SDS 分配修改所必須要的空間,還會為 SDS 分配額外的未使用空間,并使用 free 屬性來記錄這些額外分配的字節的數量。

  • 通過空間預分配策略,下次字符串擴展時,可以充分利用上次預分配的未使用空間,而不用再觸發內存重分配操作了。

惰性空間釋放:

  • 惰性空間釋放用于優化 SDS 的字符串縮短操作:當 SDS 的API需要縮短 SDS 保存的字符串時,程序并不立即使用內存重分配來回收縮短后多出來的字節,而是使用上面提到的 free 屬性將這些字節的數量記錄起來,并等待將來使用。
  • 通過惰性空間釋放策略,SDS 避免了縮短字符串時所需的內存重分配操作,并為將來可能有的增長操作提供了優化。

4、字符串變量的共享和適配

對象中使用數字是非常常見的,例如設置用戶的年齡、學生的分數、博客中文章的排名等等。所以 Redis 為了避免重復創建數字對應的字符串對象,它會將一個范圍的整數對應的字符串對象用來共享。

目前來說,Redis 會在初始化服務器時,創建一萬個字符串對象,這些對象包含了從 0 到 9999 的所有整數值,當服務器需要用到值為 0 到 9999 的字符串對象時,服務器就會使用這些共享對象,而不是新創建對象。

當然了,我們還可以通過修改 redis.h/REDIS_SHARED_INTEGERS 常量來修改創建共享字符串對象的數量。

我們都知道 Redis 是使用 C 語言開發的,所以 SDS 一樣遵循 C 字符串以空字符結尾的慣例,所以 SDS 可以重用很多 <string.h> 庫定義的函數。

5、強大的壓縮列表 ziplist

簡單介紹一下 ziplist 的結構:

在這里插入圖片描述

  • zlbytes:記錄整個壓縮列表占用的內存字節數;在對壓縮列表進行內存重分配時,或者計算 zlend 的位置時使用
  • zltail:記錄壓縮列表表尾節點距離壓縮列表的起始地址有多少字節;通過這個偏移量,程序無須遍歷真個壓縮列表就可以確定表尾節點的地址
  • zlen:記錄了壓縮列表包含的節點數量;當這個屬性的值大于 UINT16_MAX(65535)時,節點的真實數量需要遍歷整個壓縮列表才能計算出來。
  • entryX:壓縮列表的包含的各個節點,節點的長度由節點保存的內容決定。
  • zlend:特殊值0XFF(十進制255),用于標記壓縮列表的末端。

壓縮列表是一種為節約內存而開發的順序型數據結構,所以在 Redis 里面壓縮列表被用做列表鍵和哈希鍵的底層實現之一。

  • 當一個列表鍵只包含少量列表項,并且每個列表項要么就是小整數值,要么就是長度比較短的字符串,那么Redis就會使用壓縮列表來做列表鍵的底層實現。
  • 當一個哈希鍵只包含少量鍵值對,并且每個鍵值對的鍵和值要么就是小整數值,要么就是長度比較短的字符串,那么Redis就會使用壓縮列表來做哈希鍵的底層實現。

正是利用壓縮列表,不但使得數據非常緊湊而節約內存,而且還可以利用它的結構來做到非常簡單的順序遍歷、逆序遍歷,O(1) 復雜度的獲取長度和所占內存大小等等。

6、整數集合 intset 的升級策略

整數集合(intset)是 Redis 用于保存整數值的集合抽象數據結構,它可以保存類型為 int16_t、int32_t 或者 int64_t 的整數值,并且保證集合中不會出現重復元素。

我們先看看整數集合的結構:

typeof struct intset{
    uint32_t encoding;
    uint32_t length;
    int8_t contents[];
} intset;

雖然 intset 結構將 contents 屬性聲明為 int8_t類型的數組,但實際上 contents 數組并不保存任何 int8_t 類型的值,contents 數組的真正類型取決于 encoding 屬性的值。

intset 一開始不會直接使用最大類型來定義數組,而是利用升級操作,當元素的值達到一定長度時,會重新為數組分配內存空間,并將數組里的舊元素的類型進行升級。

這樣做好處:

  • 避免錯誤類型,能自適應新添加的新元素的長度。只要是升級了,那么小于對應的長度的數值都可以存進來,而如果長度不足,大不了再升級一次即可。而且,intset 最多就升級兩次,不用擔心升級次數多而導致性能降低。
  • 節約內存,只要當需要時才會進行升級操作,這樣可以很好地節省內存。

因為整數集合沒有降級操作,所以從另外一個角度看,升級操作其實也會浪費內存:如果整數集合里只有一個數值是 int64_t ,而其他數值都是小于它的,但是整數集合的編碼將還是保持 INTSET_ENC_INT64,就是說,小于 int64_t 的整數還是會用 int64_t 的空間來保存。

二、單機數據庫實現設計

1、Reactor的I/O多路復用

每當別人問 Redis 為啥這么快?吐口而出的不是基于內存就是基于單線程。

Redis 使用基于 Reactor 模式實現的網絡通信,它使用 I/O 多路復用(multiplexing)程序來同時監聽多個套接字,并根據套接字目前執行的任務來為套接字關聯不同的事件處理器。

當被監聽的套接字準備好執行連接應答(accept)、讀?。╮ead)、寫入(write)、關閉(close)等操作時,與操作相對應的文件事件就會產生,這時文件事件分派器就會調用套接字之前關聯好的事件處理器來處理這些事件。

因為 Redis 是單線程的,所以I/O多路復用程序會利用隊列來控制產生事件的套接字的并發;隊列中的套接字以有序、同步、每次一個的方式分派給文件事件分派器。

在這里插入圖片描述

多種 I/O 復用機制:

常見的 I/O 復用機制有很多種,例如 select、epoll、evport 和 kqueue 等等。

Redis 對上面的多種 I/O 復用機制都進行了各自的封裝,在程序編譯時會自動選擇系統中性能最高的 I/O 多路復用函數庫來作為 Redis 的 I/O 多路復用程序的底層實現。

2、同步處理的文件事件和時間事件

我們都知道,文件事件的發生都是隨機的,因為 Redis 服務器永遠不可能知道客戶端下次發送命令是什么時候,所以程序也不可能一直阻塞著直到發生文件事件。

畢竟 Redis 是單線程的,文件事件的處理和時間事件的處理都在同一個線程里,如果線程被 aeApiPoll 函數一直阻塞著,那么即使時間事件的時間到了,也得不到資源來執行。

所以 Redis 有這么一個策略,aeApiPoll 函數的最大阻塞時間由到達時間最接近當前時間的時間事件決定,這個方法既可以避免服務器對時間事件進行頻繁的輪詢(忙等待),也可以確保 aeApiPoll 函數不會阻塞過長時間。

對文件事件和時間事件的處理都是同步、有序、原子地執行的,服務器不會中途中斷事件處理,也不會對事件進行搶占,因此,不管是文件事件的處理器,還是時間事件的處理器,它們都會盡可地減少程序的阻塞時間,并在有需要時主動讓出執行權,從而降低造成事件饑餓的可能性。

3、當前時間緩存

Redis 服務器中不少功能是要使用系統的當前時間的,而獲取系統當前時間需要執行一次系統調用。

為了減少系統調用,提升性能,服務器狀態(redisServer)中的 unixtime 屬性和 mstime 屬性分別保存了秒級精度的系統當前 UNIX 時間戳和毫秒級精度的系統當前 UNIX 時間戳;然后 serverCron 函數會每隔 100 毫秒更新一次這兩個屬性。

這兩個時間只會用在對時間精確度要求不高的功能上,例如打印日志、計算服務器上線時間等等。
像設置鍵過期時間、添加慢查詢日志這種需要時間精確度高的功能上,服務器還是會每次都調用系統來獲取。

三、多機數據庫實現設計

1、主從模式 -> 復制算法優化

Redis 2.8 前的復制功能:

  • 從服務器向主服務器發送 SYNC 命令。
  • 主服務器收到 SYNC 命令后,后臺生成一個 RDB 文件(BGSAVE),并使用一個緩沖區記錄從現在開始執行的所有寫命令。
  • 當主服務器的 BGSAVE 命令執行完畢,將生成的 RDB 文件發送給從服務器;從服務器接收并載入這個 RDB 文件。
  • 主服務器將緩沖區里的所有寫命令發送給從服務器;從服務器執行這些寫命令。
  • 至此,主從服務器兩者的數據庫將達到一致狀態。

缺點:

假設主從服務器斷開連接,當從服務器重新連接上后,又要重新執行一遍同步(sync)操作;但是其實,從服務器重新連接時,數據庫狀態和主服務器大致是一樣的,缺少的只是斷開連接過程中,主服務器接收到的寫命令;每次斷線后都需要重新執行一遍完整的同步操作,這樣會很浪費主服務器的性能,畢竟 BGSAVE 命令要讀取此時主服務器完整的數據庫狀態。

Redis 2.8 后對復制算法進行了很大的優化:

利用 PSYNC 命令代替 SYNC 命令,將復制操作分為完整重同步和部分重同步。只有當從服務器第一次復制或斷開時間過長時,才會執行完整重同步,而從服務器短時間斷開重連后,只需要將自己的 offset(復制偏移量)發送給主服務器,主服務器會根據從服務器的 offset 和自己的 offset,然后從復制積壓緩沖區里將從服務器丟失的寫命令發送給從服務器,從服務器只要接收并執行這些寫命令,就可以將數據庫更新至主服務器當前所處的狀態。

2、主從模式 -> 心跳檢測

在命令傳播階段,從服務器默認會以每秒一次的頻率,向主服務器發送命令:REPLCONF ACK <replication_offset>,其中 replication_offet 是從服務器當前的復制偏移量。

心跳檢測的三大作用:

  • 心跳檢測不但可以檢測主從服務器之間的網絡狀態。

  • 從服務器還會將它的復制偏移量發送給主服務器,讓主服務器檢查從服務器的命令是否丟失了。

  • 心跳檢測還能輔助實現 min-slaves 配置選項:

min-slaves-to-write 3
min-slaves-max-lag 10

解釋:那么在從服務器的數量少于3個,或者三個從服務器的延遲(lag)值都大于或等于10秒時,主服務器將拒絕執行寫命令,這里的延遲值就是上面提到的INFO replication命令的lag值。

3、哨兵模式的訂閱連接設計

Sentinel 不但會與主從服務器建立命令連接,還會建立訂閱連接。

在默認情況下,Sentinel會以每兩秒一次的頻率,通過命令連接向所有被監視的主服務器和從服務器發送 PUBLISH 命令,命令附帶的是 Sentinel 本身的信息和所監聽的主服務器的信息;接著接收到此命令的主從服務器會向 _sentinel_:hello 頻道發送這些信息。

而其他所有都是監聽此主從服務器的 Sentinel 可以通過訂閱連接獲取到上面的信息。

這也就是說,對于每個與 Sentinel 的服務器,Sentinel 既通過命令連接向服務器的 __sentinel__:hello 頻道發送信息(PUBLISH),又通過訂閱連接從服務器的 __sentinel__:hello 頻道接收信息(SUBSCRIBE)。

通過這種方式,監聽同一個主服務器的 Sentinel 們可以互相知道彼此的存在,并且可以根據頻道消息更新主服務器實例結構(sentinelRedisInstance)的 sentinels 字典,還可借此與其他 Sentinel 建立命令連接,方便之后關于主服務器下線檢查、選舉領頭 Sentinel 等等的通信。

4、集群模式中的 Gossip協議

Redis 集群中的各個節點通過 Gossip 協議來交換各自關于不同節點的狀態信息,其中 Gossip 協議由 MEET、PING、PONG 三種消息實現,這三種消息的正文都由兩個 cluster.h/clusterMsgDataGossip 結構組成。

利用 Gossip 協議,可以使得集群中節點更新的信息像病毒一樣擴散,這樣不但擴散速度快,而且不需要每個節點之間都發送一次消息才能同步集群中最新的信息。

四、總結

至此,我自己能想到的使得 Redis 性能優越的設計都在這里了。當然了,它的厲害之處遠遠不止這些~

大家都知道,使用 Redis 是非常簡單的,來來去去就幾個命令,但是當你深入 Redis 底層的設計和實現,你會發現,這真的是一個非常值得大家深究的開源中間件?。?!

參考資料:《Redis 設計與實現》,這是一本寫得非常好的書,通俗易懂~

posted @ 2020-04-29 16:42  不送花的程序猿  閱讀(...)  評論(...編輯  收藏
全民捕鱼游戏怎么玩